1ビットオンオフの世界から、正負ゼロの世界へ、テイクオフ

世の中進化しすぎ好き。

粉ミルクすげぇ

この記事は、授乳をしながら書いてます。

ららら

ラブ和光堂。

左手で執筆、右手で授乳。

これが当たり前として、これからは口で音声入力して、右手は別のことに使う的な。

2択から3択の世界へ

LLMが新しいステージへ。

論文がでてて、曰く、少ない計算リソースで、早く計算ができるという。

その論文がこちら。

https://arxiv.org/pdf/2402.17764.pdf

読む気しない。笑

偉大なる解説記事(日本語)

ということで、解説記事になります。

Microsoftが1.58ビットの大規模言語モデルをリリース、行列計算を足し算にできて計算コスト激減へ – GIGAZINE

1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も – WirelessWire News

ありがてえありがてえ。

なるほど?天下のマイクロソフトの記事とのこと。

追記::さらに詳しい解説

感謝…圧倒的、感謝……っ‼️

速報:話題の 1ビットLLMとは何か?|寺田英雄(㈱オープンストリームCTO)

早速実践した猛者の記事に触れる

そして、読んで実践報告を出してくれている方がこちら。理解度がすごすぎる。

驚異の1ビットLLMを試す。果たして本当に学習できるのか?|shi3z

で、概ね論文通りの結果が出た、と。

未来AIだったはずのものが出現

計算量とか必要リソースが減るので、アルゴリズムか、ハードの開発がなされれば、一家に一台、ドラえもんが出現する‼️‼️

この論文は画期的らしいので、このアルゴリズムに特化した新しいデバイスが出現するみたいです。

魅力的な成果が出るので、それ専用のハードウェアを開発するインセンティブが十分にあるというのです。

これは多分本当でしょう。

そうすると、AIは決してハイコストな特別なものではなく、巷にありふれたものになり、より身近に人間を支援したりする存在になるようです。

突然、未来がおっこちてきたようなこの感覚に昨年から何度も出会ってますが、今年もまた、AIが加速度的に進化して、生活を激変させそうな予感です。


コメント

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です