
Hodachi | LLM & AI Engineer
@hokazuya • 19,234 subscribers
R&D of the EZO series of LLMs / Enterprise-ready AI solutions from consulting through PoC to production. https://t.co/dyTBN535yq
Shorts
Videos

これ、GPUで頑張ってた民としてはマジでえぐい進化。なんでもっと注目浴びていないのか謎。(観測していないだけかもしれんが) MSResearchから、以前話題になったCPUでも動く超軽量モデルの最新版【bitnet-b1.58-2B-4T】がMITライセンスで登場。 高額GPUを使わんでここまで行けるの、真面目にゲームちゃんジャーになるはずなんよ。 前は会話なんてできなかったがたった半年でこれ。チャットできる。 わかりやすく、GPU使用率は変化しないしディスプレイ用にちょっと使われているレベル。 CPUで動く。 CPUでこの性能。等倍則の動画。 これ、何ができるって、高額なGPUなくてもこのレベル間の推論ができるようになっているってこと。 つまり特化型のデバイス基盤さえあれば、もうこういうレベルの推論はできるってこと。 マジでこれがドメイン特化、専用デバイス、超小型デバイスで動くアシスタントのベースラインになると、デバイスの単価も下がり、だれでも使えるレベルのものができるはず。 これはマジで追いかけたい。 つか、半年でこのレベルアップ、やばすぎやろ。
Hodachi | RAGOps126,059 Aufrufe • vor 1 Jahr

おおおおおおおお! Githubリポジトリを指定したら、リポジトリのコードベースを参照して、あれやこれやいろいろとChatベースで質問できちゃう、「github-chat」ってのが。 これマジで使える ☑何できるん? ☑どういう構成? ☑これもじつげんされとるん? なんて質問が出来ちゃうってのが最高 使う前に、ソース見ながら確認してくれるから最高。 これ、真面目にプロダクトにOSSを導入する前に、どういうアーキテクチャで、何が実現されていて~とかっていうコードをいちいち持ってきて、Cursorで全体インデックス貼って、長々と聞いて。。。というのが省けそうで、かなり良き
ホーダチ-Hodatsu | LLM Researcher × AI Engineer83,191 Aufrufe • vor 1 Jahr

Claude 4 Opus使ったら、一撃でブラウザエージェント作れるぜ!!と、海外のインフルエンサーが言っていたので、せっかく調査のためにMAXを契約していたので、半信半疑でやってみたけど、確かにレベル違う。 バックエンドとフロントをしっかりと実装、つなぎ込みをしている。全体で、2000ステップ以上を数分で。 この機能が1時間弱でエラーなし。 <機能> ・ブラウザの遠隔操作 ・表示されているページの要約 ・表示されているページのスナップショット取得(API Call) ・表示されているページの翻訳説明(API Call) 僕が指示したのは、 「動作するブラウザ エージェント (API とフロントエンド)を作成して」とだけ。 そのあと、 「あー、英語のページは翻訳したい」 「要約したい」 「OpenAIとか、AnthropicのAPI使っていいよ」 「デザインダサいわ」 しか言ってない。 そこから、2~3エラーが出たけど、賞味1時間でこれ。 現状だとチープな機能だけど、このレベルのソース量になると、大体フロント⇔バックエンドがつながらなかったり漏れだらけが大半だったのが、これはかなり感動もの。 これは確かに、「別の作業しながら、何かのシステムを作ってもらう」が本当にでき始めていて、大きな進展を感じ 1年。早すぎる。
ホーダチ-Hodatsu | LLM Researcher × AI Engineer47,715 Aufrufe • vor 1 Jahr

【AIスターエンターテインメントプロジェクト指導】 ぜひ見てほしい。 ほぼAIで作られたCMを一時間で。 AIメディア、AIモデルを開始。 約1時間の作業でこのレベルまでは達した。 音声は私の声だが、制作時には一言も発せず。 PCを操作していたのみ。 もっと繊細なものをデザイナーさんがいれば作れる。 AIメディア制作事務所、AIモデル運営事務所を作っていこうと思っているので、ここまでの制作ナレッジ、初期メンバーには破格(1000円くらい)でレクチャーします。(コンテンツを作ってお渡しするか、直接レクチャー) 興味のある方は、いいね&リポスト&フォローの上で、リプに「ジャパン」でお知らせください。 DMします。 Discordで運営、まだまだ私だけでは難しい部分もあるので、メディア関連やモデル関係のお知り合いのいる方はコアメンバーとして事務局運営も手伝ってほしい。 ※注意:これらの作業をするにあたって、AI活用には月額1~2万円はかかってきます。一緒にやる方々にはこれらを何らかの形で利用できるようにしてマネタイズを狙います。
ホーダチ-Hodatsu | LLM Researcher × AI Engineer73,755 Aufrufe • vor 2 Jahren
Keine weiteren Inhalte verfügbar