【米国株】データセンター向けGPUは学習NVDA、推論AMDって棲み分けになる気がしてきた？

>>612
わざわざ分ける意味ある？
同じ拠点で使うなら学習に使ってる環境で移行できる方そのまま使ったほうが早くない？

>>621
学習の方は日進月歩で競い合ってる世界だからCUDA一択。
でも推論は学習済みのNNを演算するだけだから、別にCUDAじゃなくたって大して問題ない。
AMDだったらx86でCPUGPU一体化した低消費電力のシステム作れる。gpt-4クラスだと電気代がやばすぎんのよ

>>662
それ別にAMDである必要性がないのでは
NVDAも低消費電力あるし
スマホ用に特化とかやるわけでもなし同じデータ扱うのにシステム分けるのはあんまり筋良くないし

>>670
どっちかっていうとザイリンクス買収したFPGAの方じゃね

>>674
あーなるほどねそれはわかるわ
CPU統合云々言ってるからGPUの話かと
でもAMDってARMとかRISCVとか作ってたっけ？

>>696
ARMはappleと同じ権限レベルのカスタマイズライセンス保持しているよ
RISC-Vは、AV1のエンコボードに試しに面白いから作ってみたで実用的な製品出しているよ

>>766
それでジムケラーのK12蹴ったのが謎すぎる…

>>670
推論のシステムの選択肢は3つ
①x86 CPU+NVDA GPU :現状な
②NVDA製ARM+NVDA GPU一体システム:NVDAが今度出す。エネルギー効率良い
③AMDのx86 CPUGPU一体:AMDも今年後半に出す。こちらもエネルギー効率良い
今後の推論はどれが主流か予想すると、それぞれ一長一短なんだけど、推論の実行システムとしては、優先順位は消費電力>x86>GPUなんじゃないかなと。
そうすると③が広まる可能性がある

>>733
x86は正直ゴミだよ
初期も運用もコスト低いGraviton(Amazon)とAmpere(MS/Oracle)が順調にシェア増えてるのに
囲い込みされてるでもなきゃ今更x86を積極的に採用する理由はないと思う
AMDがARMやRiscVに振るならわからんでもない

>>755
手元のPCのCPUはx86だろ
サーバーサイドのプログラムを自分のPCでも実行して確認出来るってのは開発・運用上大きいってじっちゃんが言ってた。
それが出来なくなるARMへの移行は相当なハードルだよ

>>798
依存関係が逆じゃねえかな
クライアントがx86だからサーバーもそうするんじゃなく
サーバーに合わせて開発側がクライアント変える

>>798
ちなみにWebとかはサーバーに合わせて移行してるとこは多いよ
というかそもそもサーバー環境で開発してんだからあんま関係ない

>>837
ARMが絶対ダメとは言ってないよ。ただ、現状の主流はx86でARMに移行するにはハードルがあるって言ってるの。
だから明らかに安くてメリットのあるARMのインスタンスだって、限定的にしか広まってないわけ。
以上

>>852
その肝心のMSはARMに移行したがってんだわ…

>>733
一応言っておくとNvidiaは既にARM一体のボードある

>>648
INTCはMeteorLake延期した時点でもうゾンビ確定だぞ

>>708
MSFTはそんな短絡的な企業じゃないから
そのうちMetaみたいに自社で作ると思うよ

>>717
そもそもGPTそれ自体はプラットフォーム依存じゃないし
FPGA使ってハード自体をGPT専用にカスタムするなら軽快に動く
ただ特化させるにはそれなりにコストもあるのでトレードオフ