標簽

推理技術社區

推理

推理技術社區為您提供最新的推理相關技術資訊、推理的技術資料、推理的電路設計方案、推理的視頻資料、推理的相關元器件資料以及推理的技術應用。

全部資訊論壇

推理資訊

Lumai 推出光計算服務器可實時運行百億參數 LLM

2026 年 4 月 28 日，Lumai 宣布其Lumai Iris 光計算系統成功實現百億參數大語言模型實時推理，為全球首次公開驗證的光計算大規模 AI 落地案例。該系統以光子替代傳統硅基晶體管完成算力加速，Iris...

光計算 Lumai Iris 2026-04-29

從黑箱到透明：AI 推理棧其實“會說話”

如今，大模型推理已經成為 AI數據中心的核心負載。但絕大多數團隊面對推理系統時，都處在 “黑箱狀態”：提示詞輸進去，令牌吐出來，中間 GPU、內存、網絡、調度到底發生了什么，幾乎看不見。?而在是德科技最新發布的技術博客中...

AI 推理可觀測性 2026-04-21

英偉達 Groq 3：AI 推理時代已至

在 2026 年英偉達 GTC 大會上，英偉達 CEO 黃仁勛（Jensen Huang）發布了首款專為 AI 推理設計的芯片 ——Groq 3 語言處理單元（LPU）。該芯片融合了英偉達去年圣誕夜以 200 億美元收購...

英偉達 Groq 3 2026-03-24

Meta推出自研AI芯片，專攻生成式AI推理任務

作為該系列芯片中最先進的型號，MTIA 500 在處理 MX8 格式數據時，性能可達 10 拍字節每秒（Petaflops），同時還支持效率更高的 MX4 數據格式。后者通過減少 AI 模型響應提示詞時需分析的字節數量，...

Meta AI芯片 2026-03-12

國產GPU實現萬卡訓練與推理雙突破，摩爾線程發布“花港”新架構

2025年12月20日，北京——摩爾線程首屆MUSA開發者大會（簡稱：MDC 2025）在北京中關村國際創新中心正式開幕。作為國內首個聚焦全功能GPU的開發者技術盛會，大會系統展示了摩爾線程以自主MUSA統一架構為核心的...

國產GPU 萬卡 2025-12-20

將AI模型和推理引入物聯網

人工智能的實施正在從云轉向邊緣。帶寬和延遲是在邊緣云應用程序中進行推理時的關鍵問題，因此源推理對于許多物聯網應用程序至關重要。因此，邊緣對更多計算能力的需求也在上升。然而，邊緣是一個高度分散的領域，包括工業、智能手機、消...

AI模型推理 2025-11-04

推理論壇

05-20 【昉·星光2RISC-V單板計算機】物體識別的板端推理

無垠的廣袤|瀏覽：1039|回復：0| 無垠的廣袤 2025-05-20 14:16:57

02-03 rkllm板端推理

abgh668|瀏覽：600|回復：1| Hope2022 2025-02-04 17:53:41

10-01 搞懂三極管，其實可以從二極管推理！

huan2220|瀏覽：398|回復：1| Hope2022 2024-10-02 19:36:42

03-05 開發者實戰|速度起飛！AI大模型基于OpenVINO?優化初次推理啟動速度的小妙招

nakey|瀏覽：3375|回復：0| nakey 2024-03-05 15:30:39

01-12 在英特爾AI開發板上用OpenVINO?NNCF優化YOLOv7，2.15倍性能提升

nakey|瀏覽：3540|回復：2| 蔣洪濤 2024-02-05 11:20:14

11-07 知識圖譜：技術成熟度飛速躍升，與產業互聯結合更加緊密

龍騰AI技術|瀏覽：1409|回復：4| xiongG 2022-11-29 20:17:56

04-20 在邊緣選擇機器學習處理器

basketj|瀏覽：1690|回復：2| 同煮山川 2021-05-15 23:50:55

06-26 測試與推理

skm2007|瀏覽：1746|回復：0| skm2007 2012-06-26 23:13:25

更多 技術趨勢

臺積電暫緩引入High-NA EUV，先進制程競爭不只是設備選擇

馬斯克“對線”魏哲家：對Terafab的可行性存在分歧

NAND報價狂漲：LTA將成為存儲器行業主流模式

DeepSeek V4發布前奏？已適配華為AI芯片

伊朗戰爭“鎖定”云廠商：數據中心正在成為直接目標

更多 最新動態

更多 培訓課堂

更多 資源下載

中文規格書：納祥科技8通道音頻ADC芯片NX9068

時間：: +立即下載2026-05-07

TMC2209模塊規格書

時間：: +立即下載2026-05-03

設計揭秘， 11kW 矩陣式車載充電機創新方案

時間：: +立即下載2026-04-28

rk3562 TRM

時間：: +立即下載2026-04-26

eg800z-USB網卡版本

時間：: +立即下載2026-04-23

更多 最新帖子

Hi3516CV610?00S作用有哪些？

VXzhanggong345|瀏覽：25|回復：0

用TMC2209模塊驅動步進電機

aramy|瀏覽：58|回復：1

符合TLCP國密算法的芯片—LKT4305GMT

13466516880|瀏覽：57|回復：1

WiFi7雙6GM.2模塊

shinewallys|瀏覽：72|回復：1

傳感器LSM6DSO及LIS3MDL的功能檢測

Lilyna|瀏覽：59|回復：0

【nFR54L15Zephyr】基于NRF54L15-DK無線溫濕度計

lulugl|瀏覽：106|回復：0

相關標簽

久久ER99热精品一区二区-久久精品99国产精品日本-久久精品免费一区二区三区-久久综合九色综合欧美狠狠

推理

Lumai 推出光計算服務器可實時運行百億參數 LLM

從黑箱到透明：AI 推理棧其實“會說話”

英偉達 Groq 3：AI 推理時代已至

Meta推出自研AI芯片，專攻生成式AI推理任務

國產GPU實現萬卡訓練與推理雙突破，摩爾線程發布“花港”新架構

將AI模型和推理引入物聯網

借助組合式電量計提升精度并縮減系統占用空間

實施可靠電源的途徑

ADI家庭總線數據線供電解決方案

EEPW 2025 年度產業技術回顧與展望直播——機器人專場