工控網首頁
>

新聞中心

>

業界動態

>

望獲實時Linux系統運行DeepSeek R1大模型,成本低至千元內!

望獲實時Linux系統運行DeepSeek R1大模型,成本低至千元內!

DeepSeek憑借其V3和新推出的R1兩款模型,實現了與OpenAI 4o和o1比肩的性能,同時成本僅為十分之一,為AI技術的普及提供了經濟高效的解決方案。DeepSeek的崛起,不僅標志著中國AI技術的突破,更預示著全球AI市場將迎來一場新革命。

以下是詳細的部署步驟,幫助您快速實現這一國產技術組合的落地應用。

硬件準備:

  • RK3588開發板:京博航友善NanoPC-T6(預裝望獲實時Linux)

  • 工作主機:ubuntu筆記本電腦

部署步驟

從Hugging Face拉取DeepSeek-R1的1.5B蒸餾模型到x86平臺:

二、配置模型轉換腳本

企業微信截圖_17389142585356.png

執行模型轉換腳本,等待轉換完成:

四、部署模型

企業微信截圖_17389142794590.png

在RK3588平臺,進入rknn-llm/rkllm-runtime/examples/rkllm_api_demo目錄,生成llm_demo運行文件:

六、運行模型

企業微信截圖_17389142947660.png

在user : 后輸入對話內容,測試模型的運行效果。

企業微信截圖_17389072402019.png企業微信截圖_1738907620962.png

關于望獲實時Linux系統

望獲實時Linux系統是國科環宇重點研發的嵌入式實時操作系統,具備強實時、高可靠、功能安全、智能化、兼容性強和國產生態的特性。不同于傳統的微內核實時操作系統,完整兼容Linux生態環境的同時,提供強大的行業中間件支持,助力客戶快速完成行業解決方案的構建。望獲實時Linux系統致力于國產基礎軟硬件的產業鏈構建,與國產主流芯片及硬件平臺適配,提供完整的國產化解決方案,保證功能和性能的同時,避免關鍵領域的卡脖子問題。



審核編輯(
黃莉
)
投訴建議

提交

查看更多評論
其他資訊

查看更多

如何安裝望獲實時Linux系統鏡像 - 飛騰&x86版

如何安裝望獲實時Linux系統鏡像 - Rockchip版

工控重磅|低空視頻傳輸在望獲實時linux系統上的應用

工控重磅|如何不需1秒就能啟動Linux系統?

工控重磅|微秒級實時在無人機控制中的重要性