ai gpu mi300 文章最新資訊

什么時(shí)候應(yīng)該使用RAG、TAG和RAFT AI？

檢索增強(qiáng)生成（RAG）和表增強(qiáng)生成（TAG）都是提高人工智能（AI）利用外部數(shù)據(jù)生成準(zhǔn)確且相關(guān)信息的能力的技術(shù)。其他選擇包括檢索增強(qiáng)微調(diào) （RAFT）和檢索中心生成（RCG）。了解何時(shí)使用 RAG、TAG、RAFT 和 RCG 對于成功和高效的 AI 實(shí)施至關(guān)重要。所有這些都專注于提高大型語言模型（LLM）的性能。LLM 根據(jù)可能過時(shí)或不完整的訓(xùn)練數(shù)據(jù)生成響應(yīng)。RAG、TAG、RAFT 和 RCG 是解決這些限制的方法。RAG 專注于從文檔和網(wǎng)頁等非結(jié)構(gòu)化數(shù)據(jù)源檢索和合并信息。TAG
關(guān)鍵字： RAG TAG RAFT AI

滿足AI需求的關(guān)鍵本地生態(tài)系統(tǒng)：臺(tái)積電

臺(tái)積電（臺(tái)積電）昨天表示，為先進(jìn)封裝設(shè)備開發(fā)本地化供應(yīng)鏈對于跟上客戶日益縮短的新型人工智能（AI）芯片上市周期至關(guān)重要。臺(tái)積電先進(jìn)封裝技術(shù)與服務(wù)副總裁何軍在臺(tái)北舉辦的 3D IC 全球高峰會(huì)上表示，在 AI 革命的推動(dòng)下，客戶正在將產(chǎn)品升級速度加快到幾乎每年，與過去兩到三年的開發(fā)節(jié)奏相比。他說，這些縮短的周期給芯片制造商帶來了沉重壓力，因?yàn)閺男酒O(shè)計(jì)到批量生產(chǎn)的整個(gè)過程現(xiàn)在必須壓縮到一年內(nèi)。他說，這需要臺(tái)積電在短短三個(gè)季度內(nèi)將產(chǎn)量從零提高到峰值水平，將實(shí)現(xiàn)大批量生產(chǎn)所需的時(shí)間縮短 30%，并引用了該公司過
關(guān)鍵字： AI 本地生態(tài)系統(tǒng) 臺(tái)積電

英特爾：銳炫Pro B與至強(qiáng)6在MLPerf v5.1基準(zhǔn)測試中展佳績

在MLPerf v5.1基準(zhǔn)測試中，英特爾至強(qiáng)6處理器和銳炫Pro B系列GPU為工作站和邊緣系統(tǒng)提供強(qiáng)大、低延遲的AI推理能力。近日，MLCommons公布最新的MLPerf推理v5.1基準(zhǔn)測試結(jié)果，英特爾提交了基于英特爾?至強(qiáng)? 6性能核處理器、英特爾?銳炫? Pro B60顯卡的GPU系統(tǒng)，及其代號Project Battlematrix（戰(zhàn)斗陣列）的推理工作站在六項(xiàng)關(guān)鍵測試中的結(jié)果。其中，Llama 8B的測試結(jié)果顯示，英特爾銳炫Pro B60顯卡展現(xiàn)出1.25-4倍于市場同類型產(chǎn)品的成本效益1。
關(guān)鍵字：英特爾銳炫 GPU 至強(qiáng)6 MLPerf v5.1

美國或?qū)⒃倭I GAIN法案，要求本國AI芯片制造商向海外供貨前先滿足國內(nèi)需求

美國國會(huì)推動(dòng)AI GAIN法案，將要求本國AI芯片制造商向海外供貨前先滿足國內(nèi)需求。不過，英偉達(dá)表示，AI GAIN法案將限制使用先進(jìn)芯片產(chǎn)業(yè)的全球競爭，美國領(lǐng)導(dǎo)地位與經(jīng)濟(jì)的影響與美國前總統(tǒng)拜登政府制定的「AI擴(kuò)散規(guī)則（AI Diffusion Rule）」相似，AI擴(kuò)散規(guī)則對各國可擁有的運(yùn)算能力設(shè)限。AI GAIN法案全名為「保障國家人工智能獲取與創(chuàng)新法案（Guaranteeing Access and Innovation for National Artificial Intelligence Ac
關(guān)鍵字： AI 芯片英偉達(dá)

AI 采用率在大型公司中下降

(圖片來源：Getty / 喬納森·坎寧安)從頭版新聞和與用戶的交流中可以看出，在某種程度上，人工智能已經(jīng)接管了世界，甚至可能 ushered in a new epoch。從普通人到大型企業(yè)，每個(gè)人都似乎跳上了人工智能的熱潮列車——如此之甚，以至于創(chuàng)造了全新的實(shí)體和極大地支持了現(xiàn)有的實(shí)體。越來越多的人現(xiàn)在使用 ChatGPT 等服務(wù)來處理日常事務(wù)，而公司則采用企業(yè)級人工智能工具來幫助業(yè)務(wù)，有時(shí)甚至到了 f 偏袒人工智能工人的程度。但美
關(guān)鍵字： AI 智能計(jì)算

聯(lián)發(fā)科天璣9500參數(shù)：4.21GHz CPU、100 TOPS AI

聯(lián)發(fā)科泄露的天璣 9500 芯片組旨在與高通在高端 Android 智能手機(jī)領(lǐng)域的主導(dǎo)地位競爭，擁有高達(dá) 4.21GHz 的八核 CPU、用于 AI 的 100 TOPS NPU 以及光線追蹤改進(jìn) 40% 的 GPU。這可以使高級功能民主化并加劇市場競爭。在快速發(fā)展的半導(dǎo)體技術(shù)領(lǐng)域，聯(lián)發(fā)科準(zhǔn)備憑借其即將推出的天璣 9500 芯片組挑戰(zhàn)行業(yè)重量級企業(yè)，根據(jù)最近的泄密事件，該消息在移動(dòng)計(jì)算領(lǐng)域引起了漣漪。這家長期以來以為中端設(shè)備提供動(dòng)力而聞名的臺(tái)灣芯片制造商似乎已準(zhǔn)備好通過提供一款有望在處理能力、圖形性能和人
關(guān)鍵字：聯(lián)發(fā)科天璣9500 CPU AI

Gartner：到2025年末，AI PC將占全球PC市場份額的31%

●? ?2025年AI PC出貨量將達(dá)到7700萬臺(tái)●? ?2026年AI PC的市場份額將達(dá)到55%●? ?2029年AI PC將成為常態(tài)商業(yè)和技術(shù)洞察公司Gartner預(yù)測到2025年末，人工智能（AI）個(gè)人電腦（PC）的全球出貨量預(yù)計(jì)將達(dá)到7780萬臺(tái)，在全球PC市場中的份額將達(dá)到31%。Gartner高級研究總監(jiān)Ranjit Atwal表示：“AI PC正在重塑市場，但由于關(guān)稅問題以及市場的不確定性導(dǎo)致PC采購放緩，其在2025年的普及速
關(guān)鍵字： Gartner AI PC

“伏羲”架構(gòu)GPU芯片完成流片，象帝先加速GPU布局

9月3日，安孚科技（股票代碼：603031）在互動(dòng)平臺(tái)透露，象帝先計(jì)算技術(shù)（重慶）有限公司研發(fā)的新一代“伏羲”架構(gòu)芯片已完成流片驗(yàn)證。該芯片在圖形渲染能力和并行計(jì)算性能方面表現(xiàn)突出。今年4月中旬，安孚科技曾表示，象帝先正在研發(fā)兩款基于“伏羲”架構(gòu)的新品，性能指標(biāo)達(dá)到國內(nèi)領(lǐng)先水平。其中，伏羲A0專注于填補(bǔ)國產(chǎn)高端渲染產(chǎn)品空白，而伏羲B0則是一款融合GPU與NPU的芯片，主打端側(cè)模型部署和AIPC市場。伏羲B0全面支持LLAMA、ChatGLM-6B、Stable-Diffusion等主流模型的端側(cè)部署需求。
關(guān)鍵字： “伏羲”架構(gòu) GPU 象帝先

英偉達(dá)表示，盡管詹森在財(cái)報(bào)電話會(huì)議中暗示了相反的情況，但它的 H100/H200 GPU 并沒有售罄

(圖片版權(quán)：Getty / Bloomberg)盡管英偉達(dá)的 H100 和 H200 GPU 現(xiàn)在已經(jīng)是一個(gè)時(shí)代的舊產(chǎn)品，但它們?nèi)匀粺徜N。它們的需求很大程度上是基于 AI 應(yīng)用在行業(yè)中的需求激增，加上英偉達(dá)基本上是唯一能夠以這種速度供應(yīng)高質(zhì)量 AI 加速器的公司。在過去的一周里，各種報(bào)道描述了 H100/H200 GPU 的短缺，這可能是部分由 CEO 黃仁勛在公司財(cái)報(bào)電話會(huì)議上的評論所推動(dòng)。然而，英偉達(dá)現(xiàn)在已出面澄清，稱這些芯片并沒有售罄。表面上，這種立場似乎與英偉達(dá) CEO 黃仁勛上周在公司財(cái)報(bào)電話會(huì)
關(guān)鍵字： GPU 英偉達(dá) H200

谷歌正拉攏小型云服務(wù)提供商托管 TPU，目標(biāo)直指英偉達(dá)

根據(jù) 《信息周刊》援引消息人士的話，谷歌最近接觸了主要租賃英偉達(dá)芯片的小型云服務(wù)提供商，敦促他們也在其數(shù)據(jù)中心托管谷歌的 AI 處理器。報(bào)道稱，此舉的目的是鼓勵(lì)采用谷歌的 TPU，這可能使谷歌與英偉達(dá)的直接競爭加劇。報(bào)道指出，消息人士稱谷歌與至少一家云服務(wù)提供商——位于倫敦的 Fluidstack 達(dá)成了協(xié)議，將在紐約數(shù)據(jù)中心部署其 TPU。谷歌的努力不止于 Fluidstack。據(jù)報(bào)道，它還據(jù)報(bào)道尋求與其他專注于英偉達(dá)的提供商達(dá)成類似協(xié)議，包括正在為 OpenAI 建造滿是英偉達(dá)芯
關(guān)鍵字：谷歌 TPU 芯片 AI

南芯科技強(qiáng)勢入局"多相電源"市場，提供更高效的"AI+通用電源"方案

近日，南芯科技推出四相雙路同步降壓轉(zhuǎn)換器 SC634X，可支持高達(dá) 2MHz 的開關(guān)頻率，以減小解決方案尺寸，適用于 AI PC、平板、電視等消費(fèi)應(yīng)用及光模塊、邊緣計(jì)算、工業(yè)電腦、分布式電力系統(tǒng)等工業(yè)應(yīng)用。SC634X 融合了多相設(shè)計(jì)的高效性和雙路設(shè)計(jì)的靈活性，并依托南芯自有專利技術(shù) VCARM-COT?，可實(shí)現(xiàn)卓越的效率與負(fù)載瞬態(tài)性能，為客戶提供更高效的 AI+ 通用電源解決方案。把握機(jī)遇，強(qiáng)勢入局多相電源市場隨著 AI PC、服務(wù)器等高功率應(yīng)用的普及，國產(chǎn)多相電源市場有望迎來爆發(fā)式增長。多相電源將多個(gè)
關(guān)鍵字：南芯科技多相電源 AI+通用電源

阿里云采購寒武紀(jì)15萬片GPU傳聞不實(shí)，國產(chǎn)芯片技術(shù)突破與商業(yè)化落地之間仍存在較大差距

針對在網(wǎng)絡(luò)上廣泛流傳的“阿里云采購寒武紀(jì)15萬片GPU”這一傳聞，阿里云正式作出回應(yīng)，明確表示一直秉持一云多芯戰(zhàn)略，積極支持國產(chǎn)供應(yīng)鏈發(fā)展，但所謂采購寒武紀(jì)15萬片GPU的消息純屬不實(shí)。此前，部分媒體報(bào)道稱阿里緊急追加寒武紀(jì)思元 370訂單至15萬片，若該訂單屬實(shí)將成為國產(chǎn)GPU在云計(jì)算領(lǐng)域的重大突破。思元 370是寒武紀(jì)基于7nm工藝，INT8算力達(dá)256TOPS，較前代提升100%，并支持訓(xùn)推一體架構(gòu)。然而阿里云的否認(rèn)聲明揭示了當(dāng)前國產(chǎn)芯片替代的深層矛盾：技術(shù)突破與商業(yè)化落地之間仍存在較大差距 ——
關(guān)鍵字：阿里云寒武紀(jì) GPU 芯片

據(jù)報(bào)道，中國明年將使人工智能芯片產(chǎn)量翻三番，華為的晶圓廠將減少對英偉達(dá)的依賴

根據(jù)金融時(shí)報(bào)報(bào)道，中國計(jì)劃明年將其整體人工智能處理器產(chǎn)量翻三番。該報(bào)道援引消息人士的話稱，一家專門為華為制造人工智能芯片的晶圓廠預(yù)計(jì)將于今年年底開始生產(chǎn)，另外兩家工廠預(yù)計(jì)將在 2026 年投入運(yùn)營。如報(bào)道所述，這些新設(shè)施旨在供應(yīng)華為，但其所有權(quán)仍不確定，該公司否認(rèn)計(jì)劃自行建設(shè)晶圓廠。值得注意的是，該報(bào)告援引消息人士的話指出，一旦這些工廠全面投產(chǎn)，這三條生產(chǎn)線的總產(chǎn)能將超過中國領(lǐng)先代工廠中芯國際（SMIC）目前同類產(chǎn)線的產(chǎn)出。該報(bào)告援引消息人士的話還指出，中芯國際計(jì)劃明年將其 7 納米生產(chǎn)產(chǎn)能翻一番——這是
關(guān)鍵字：人工智能 AI 國產(chǎn)替代

英偉達(dá)增長風(fēng)險(xiǎn)加劇，收入擴(kuò)張觸及兩年低點(diǎn)，中國云市場前景堪憂

英偉達(dá)創(chuàng)紀(jì)錄的 AI 發(fā)展是否開始出現(xiàn)裂痕？在截至 7 月的季度，收入增長了 56%，達(dá)到 467 億美元，但這是有兩年多以來最慢的增長速度，彭博社和 CNBC 指出。據(jù)報(bào)道引用的分析師警告稱，云巨頭可能正在放緩數(shù)據(jù)中心擴(kuò)張，而中國的 H20 出口障礙仍然存在——這兩個(gè)不利因素正在削弱美國芯片巨頭的勢頭。根據(jù)彭博社報(bào)道，7月份調(diào)整后的利潤為每股1.05美元，超過了華爾街的1.01美元預(yù)期。根據(jù)彭博社的報(bào)道，英偉達(dá)對10月份的銷售額預(yù)測約為540億美元，符合華爾街的平均預(yù)期，
關(guān)鍵字：英偉達(dá) AI 市場分析