Cerebras、トリリオンパラメータAIモデルをウェハー全体に展開、推論のボトルネックを転換 – remio
Cerebrasは、AIモデルを複数チップに分散することでトリリオンパラメータ規模のモデルを展開し、限られたメモリーが同社のウェハースケール方式を阻むという前提に異議を唱えている。10月22日のエンジ...
タグ: AI推論
VESSL AI、AI推論のトークン生成時間を60％短縮と発表 2030年にGPU20万基目指す – 財経新聞
韓国VESSL AIは商用AI推論でトークン生成時間を60％短縮したと発表し、2030年にGPU20万基を確保する計画を示した。
[写真]VESSL AI、AI推論のトークン生成時間を60％短縮と発表 2030年にGPU20万基目指す – 財経新聞
写真詳細。韓国VESSL AIは商用AI推論でトークン生成時間を60％短縮したと発表し、2030年にGPU20万基を確保する計画を示した。
FriendliAIのク・ユンモ氏、「同じモデルでもプロバイダー次第で7倍高速に動作する」と指摘 – BigGo ファイナンス
FriendliAIの創業エンジニアであるク・ユンモ氏は、GLM 5.2のようなオープンウェイトモデルが多くの本番ワークロードで品質の閾値を超えており、競争の主戦場が…
ワイマティクスが閉域AI推論を核に公共から製造・物流へ展開 – CHOSUNBIZ – Chosunbiz
ワイマティクスが閉域AI推論を核に公共から製造・物流へ展開 警察庁で実証した『Spatial Reasoner』を軸に、閉鎖網で動く軽量AIとPKBで現場判断を補完し、韓国水資源公社や製造・物流の民間...
Thinking Machines Lab、Crusoe Cloud 推論向け年額 $65M の契約を締結 – Unite.AI
Crusoe と Thinking Machines Lab 年額$65百万の契約を発表した 2026年9月23日、ラボのオープンモデルの推論を支えるため、Crusoe Cloud 上で NVIDIA...
レノボ・エンタープライズ・ソリューションズ張社長が語るAI推論時代とデータセンターの未来 – ZDNET Japan
生成AIの普及でデータセンターが「ビジネス創出の場」へと激変する中、インフラ面から市場をけん引するのがレノボだ。本記事では同社の張磊社長に直撃。需要が急拡大するAI推論への対応から、電力危機を救う独自...
レノボ・エンタープライズ・ソリューションズ張社長が語るAI推論時代とデータセンターの未来 – ZDNET Japan
生成AIの普及でデータセンターが「ビジネス創出の場」へと激変する中、インフラ面から市場をけん引するのがレノボだ。本記事では同社の張磊社長に直撃。需要が急拡大するAI推論への対応から、電力危機を救う独自...
CoreWeave、数百台のRubin GPUを単一のマルチラッククラスターに接続 – Unite.AI
CoreWeaveは2026年9月16日に発表した、CoreWeave Cloud上でマルチラックNVIDIA Vera Rubin NVL72を立ち上げ、数百台のNVIDIA Rubin GPUをエ...
Appier、AIの限界認識と推論方法選択に関する革新的な研究を発表 – voix.jp
AppierがAIの限界認識と推論方法選択に関する新研究を発表 Appier Group株式会社は、AI技術の革新を追求し、エージェント型AIの導入に向けた新たな研究成果を発表しました。発表された2本...
グローバルデータセンター企業のエクイニクスがNVIDIA、トゥギャザーAIと手を握り、企業の人工知能(AI)をデータとユーザーの近いところで駆動するグローバル「AI推論網」を構築する。 チャットボット.. – 매일경제
グローバルデータセンター企業のエクイニクスがNVIDIA、トゥギャザーAIと手を握り、企業の人工知能(AI)をデータとユーザーの近いところで駆動するグローバル「AI推論網」を構築する。 チャットボット...
AI推論とは何か？訓練済みモデルが本番環境で回答を生成する方法 – Unite.AI
AI推論は、訓練済みモデルが新しい入力を受け取り、予測、生成されたトークン、アクション、または表現を計算する本番時プロセスです。本ガイドでは、実務上重要なメカニズム、トレードオフ、評価、制御について解...
アカマイがAI推論に注力―「世界最大級のAI実行プラットフォーム」を目指す【事業戦略発表会レポート】 – GameBusiness.jp
アカマイが誇る分散型プラットフォームを活用して、3大ハイパースケーラーとは異なる市場の開拓を目指します。
ロッテイノベートAI、120B化で推論3倍 – CHOSUNBIZ – Chosunbiz
ロッテイノベートAI、120B化で推論3倍 ロッテイノベートは26日、人工知能（AI）プラットフォーム「アイメンバー（Aimember）」の言語モデルを改善し、エンタープライズ（企業向け）生成AI市...
エヌビディアBlackwellがAI推論費用を大幅削減 産業横断で普及加速 – CHOSUNBIZ – Chosunbiz
エヌビディアBlackwellがAI推論費10分の1に削減 産業実装加速 エヌビディアは次世代GPU「ブラックウェル（Blackwell）」プラットフォームによりAI推論コストを最大10倍削減し、「...
Cloudera、データセンター対応でAI推論と統合データアクセスを強化 – Excite エキサイト
マルチクラウド、エッジ、データセンター環境全体で、より高速かつ高精度なエンタープライズAIと分析を実現あらゆる場所のデータにAIを提供する唯一の企業Cloudera株式会社（所在地：東京都中央区、社長...
AI推論とは？「40兆円市場」の勝者は？エヌビディアやグーグル「AIの主戦場」徹底解説 – ビジネス+IT
AI推論とは、学習済みのAIモデルを導入し、エッジ（端末側）環境やクラウド環境でリアルタイムに予測や意思決定を行うプロセスです。この記事では、世界的な市場調査会社MarketsandMarkets社の...
Groq×NVIDIA、グローバル規模でAI推論を加速するため推論技術でライセンス契約締結 – ニコニコニュース
Groqは12月24日(米国時間)、同社の推論技術についてNVIDIAと非独占的ライセンス契約を締結したと発表した。契約は、高性能かつ低コストの推論へのアクセス拡大に向けた両社の共通の取り組みを反映し...
富士通とScaleway、「FUJITSU-MONAKA」CPUベースのAI推論で欧州のGXとデータ主権を加速する戦略的協業を開始 – 日刊工業新聞
富士通株式会社（注1、以下 富士通）と、欧州を代表するAI開発者向けのクラウドプロバイダーであるScaleway SAS（注2、以下 Scaleway）は、このたび、欧州において、...
サムスン電子GDDR7で大統領賞AI推論で優位確立 – CHOSUNBIZ – Chosunbiz
サムスン電子GDDR7で大統領賞AI推論で優位確立 サムスン電子がメモリー半導体製品であるGDDR7 DRAMで大韓民国技術大賞の大統領賞を受賞する。 サムスン電子は3日、ソウル江南区のCOEXで開...
Google、AI推論時代の第7世代TPU「Ironwood」提供を数週間以内に開始──v5p比10倍・v6e比4倍超の性能を公式発表 – Ledge.ai
AI・人工知能関連のニュースやトレンドを高頻度で配信！最新ニュースやインタビュー、イベントレポートなどAIに関するさまざまな情報を独自の切り口で掲載
大規模AIプロダクトの推論を支える”Baseten”がSeries Dで評価額$2.15Bで$150Mを調達 – AT PARTNERS
大規模AIプロダクトの推論を支える"Baseten"がSeries Dで評価額$2.15Bで$150Mを調達
AI推論の強化：高度なテクニックとベストプラクティス – Unite.AI
自動運転車やヘルスケアモニタリングといったリアルタイムAI駆動型アプリケーションでは、入力処理に1秒でも長くかかると深刻な結果を招く可能性があります。リアルタイムAIアプリケーションには信頼性の高いG...
NVIDIA、RTX GPUでのAI推論より簡単に高速化できる「TensorRT for RTX」 – PC Watch
NVIDIAは19日、COMPUTEX TAIPEI 2025にあわせ、AI推論の高速化ライブラリ「TensorRT for RTX」を発表した。すべてのRTXシリーズGPUで利用できるとしており、6...
エネルギーコストの約90％を消費するAI推論 グーグル、アマゾンなどはAIの発展と電力需要の急増にどう適応すべきか – JBpress
この1、2年で世間の認知が急速に高まり、ビジネスでの活用も進みつつある生成AI。数年前から議論になっていた「AIは人間の仕事を奪うのか」という懸念がついに現実になり始めたともいえる。本稿では、『生成A...
AIネイティブ製品向けの推論プラットフォームを提供する”Baseten”がSeries Cで評価額$825Mで$75Mを調達 – AT PARTNERS
AIネイティブ製品向けの推論プラットフォームを提供する"Baseten"がSeries Cで評価額$825Mで$75Mを調達