ChatGPT的火爆出圈讓大家看到了大型語言模型的潛力，多家企業開始自研大型語言模型，開源社區也已經出現了非常多優秀的模型。曠視科技也發布了全新輕量級 LLM 模型推理框架 InferLLM，助力大模型實現落地。雖然大型語言模型在文案生成、內容創作、代碼編程等方面展現了強大能力，但其海量的參數和巨大的模型體積，讓大語言模型在邊緣端設備上運行仍面臨許多挑戰。為加速大語言模型落地應用，曠視天元開發了 InferLLM 工程，提供一個比 llama.cpp 更簡單更容易上手的本地部署框架，讓大語言模型在本地或者端上部署成為可能。 曠視天元開源深度學習框架MegEngine是曠視科技自主研發的國產工業級深度學習框架，是曠視科技新一代AI生產力平臺Brain++的最核心組件，在2020年3月正式向全球開發者開源。

曠視科技天元憑借其訓練推理一體、超低硬件門檻和全平臺高效推理3大核心優勢，能夠幫助企業與開發者大幅節省產品從實驗室原型到工業部署的流程，真正實現小時級的轉化能力。曠視天元不斷優化，推出了一系列實用功能，降低 AI 算法生產門檻，助力 AI 應用快速落地，其中包括:引入動態圖顯存優化技術，大幅減少顯存占用，節省開發者硬件成本，用有限硬件資源訓練出更大模型；開源面向計算機視覺應用的流式計算框架MegFlow，開發者基于MegFlow 提供的視覺解析服務方案，最快 15 分鐘即可完成客制化所需功能，AI 應用落地不再難；開發出創新性的TracedModule 方案以及 MegEngine Lite，基于曠視科技海量業務打磨出的模型推理最佳實踐，化解模型轉換部署難題……

除了開源深度學習框架曠視天元外，曠視科技的科研成果包括AI生產力平臺Brain++、AI算法生產平臺AI Service、移動端高效卷積神經網絡ShuffleNet等多項創新技術和產品。目前，曠視已在ICCV、CVPR、ECCV 等國際學術會議、期刊上發表論文200余篇，在各項國際人工智能頂級競賽中累計攬獲 56 項世界冠軍或最高榮譽。

當下，大模型已成為 AI 重要的技術發展方向。曠視科技一直堅定投入大模型研發，具備領先的大模型原創科研能力。面向未來，曠視科技將積極擁抱多模態大模型，同時將大模型與硬件結合，面向物聯網場景打造不同類型的行業應用。

鄭重聲明：此文內容為本網站轉載企業宣傳資訊，目的在于傳播更多信息，與本站立場無關。僅供讀者參考，并請自行核實相關內容。