6月26日消息，據媒體報道，美國新興的芯片創業公司Etched發布其首款AI芯片——Sohu。
這款芯片在運行大型模型時展現出了驚人的性能，其速度超越了行業巨頭英偉達的H100高達20倍，即便是與今年3月才面世的頂尖芯片B200相比，Sohu也展現出超過10倍的優越性能。
Sohu芯片的最大突破在于它直接將Transformer架構嵌入芯片內部。據Etched公司負責人Uberti透露，Sohu采用了臺積電的先進4納米工藝制造，不僅在推理性能上遠超GPU和其他通用人工智能芯片，更在能耗控制上達到了新的高度。
對于Transformer技術而言，Sohu無疑是目前市場上最快的芯片，其性能與其他產品之間存在顯著的量級差異。值得一提的是，當前主流的AI產品如ChatGPT、Claude、Gemini和Sora等，均基于Transformer架構驅動。
作為世界上首款Transformer ASIC（應用型專用集成電路）芯片，Sohu的集成應用更是令人矚目。據測試，一臺配備8塊Sohu芯片的服務器，其性能足以媲美160塊H100 GPU的集群。
具體而言，集成8塊Sohu芯片的服務器每秒能夠處理高達50萬的Llama 7B tokens，這一數據在業界堪稱前所未有。
而打造這款杰出芯片的Etched公司，位于美國加州的庫比蒂諾，盡管成立僅兩年，團隊規模也僅有35人，但其創始人——哈佛輟學生Gavin Uberti（前OctoML和前Xnor.ai員工）和Chris Zhu，與資深技術專家Robert Wachen和前賽普拉斯半導體公司首席技術官Mark Ross共同領導，已經成功研發出這款專為大模型AI設計的芯片，展現了其強大的技術實力和無限潛力。
本站內容除特別聲明的原創文章之外，轉載內容只為傳遞更多信息，并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題，請及時通過電子郵件或電話通知我們，以便迅速采取適當措施，避免給雙方造成不必要的經濟損失。聯系電話：010-82306118；郵箱：aet@chinaaet.com。