Loading video...

Video Failed to Load

Go Home

Apple Silicon 搭載の MacBook Pro M1 Max 64GB 上で、完全ローカル動作する日本語音声対話アシスタントを構築しています。 音声認識から応答生成、音声合成まで、実行時の処理はすべてローカル動作でネットに繋がっていなくても動きます。 現在の中核構成は、mlx-whisper(mlx-community/whisper-large-v3-turbo) → LM Studio Local Server 上の gemma-4-26b-a4b → Irodori-TTS-500M-v2。 今回は、Irodori-TTS の VoiceDesign で実在しない話者の参照音声を生成し、その参照音声を用いて一貫性のあるゼロショット音声クローンを行う構成にしています。 つまり、ローカル環境内で設計した話者によって対話音声を生成しています。 (実在人物のクローン行為ではありません) まだ改良中ですが、クラウドAPIなし・実行時の外部通信なしで、ここまで自然な日本語音声対話が成立するのはかなり面白いです。 原理的にストリーミングTTSに対応しないためレスポンスが少し遅いですが、ここを誤魔化す技術について考え中です。

35,705 views • 2 months ago •via X (Twitter)

0 Comments

No comments available

Comments from the original post will appear here

Related Videos

【絶体絶命の楽器編成】 たまに、ドラム・ピアノ・フロントという、いわゆる“ベースレス”の編成でライブをやらされることがあります。 ドラムがいるにもかかわらずベースがいない。この編成はピアニストにとって最も厄介な状況の一つかもしれません。 多くのアマチュアのピアニストは、ベーシストがいないと分かった瞬間、左手でウォーキングをしてしまったりします。 しかし、音楽は必ずしも理屈で解決すべきものではありません。 やることは、実は極めてシンプルです。 三人全員が、抜群にスイングし、良い音で演奏すること。 それだけです。それだけで音楽は成立します。 もう一度言います。 良い音で、三人が同時に演奏する。ただそれだけ。 この動画を観てください。 無理に相手に合わせようとしていますか? 過剰に「化学反応」を起こそうとしているでしょうか? ただ相手の音を聴きながら、良い音で演奏しているだけです。 理論的にも、特別に難しいことは何一つやっていません。 ただし、ここに至るまでには時間がかかります。良い音でスイングして演奏できるようになれるように、一生かけて勉強します。どんなに才能がある人でも最低20年はかかるでしょう。 結局のところ、自分の演奏に一切の嘘がなくなるレベルまで到達しなければ、こうした「シンプルなこと」はできないのです。これはその事実を如実に示している一例です【完】

天才ピアニストゆうこりん❤️ 4/22 中目黒 楽屋 🎹 Yuking of Swing🔥

33,834 views • 6 months ago

🎊🎊様々なキャラクターたちの声で音声合成できるサービス”Kotodama”をリリースします🎊🎊 感情豊かなキャラクターの声で、新しい物語を紡いであげてください。HappyRatの他のキャラクターや、HappyRat以外のキャラクターも順次登場予定です。 お楽しみに! -------- 僕達は感情豊かなキャラクターAIを作っています。その中でも、声は欠かすことができない要素で、こだわりを持ちながら音声合成エンジンを作っています。 フルスクラッチの学習からスタートして、感情豊かな表現を出すためにモデル自体を改良したり、より自然な表現になるよう日夜アノテーションで性能改善を進めたり。 ・・・そんなことを積み上げていたら、いつの間にか「リアルタイム (<0.5秒)」「キャラクターの声色の再現」「豊かな感情表現」の三拍子揃ったモデルになっていました。 これまでは弊社アプリからのみ利用可能な状態にしていましたが、様々な企業様やクリエイターの方から、ぜひ誰でも簡単に使えるようにしてほしいとご要望をいただき、晴れて独立したサービスとしてローンチすることになりました。 特に自信があるのは、リアルタイム性と感情表現の豊かさです。API経由でも使えますので、リアルタイム対話アプリケーションにもぴったりです。 感情表現については・・・そうですね、ここまで本気で、泣いたり笑ったり出来る音声合成エンジンは、これまで無かったのではと思います。 ぜひ実際のサービスで体験してみてください‼️ #ハピラト #kotodama #音声AI #AIVOICE #AI

佐々木雄一 (SpiralAI CEO)

74,301 views • 8 months ago

最近、YouTubeのコメント欄に「某声優さんにそっくり」「AIだろ」「訴えられろ」みたいなコメントが急増しています。 親父譲りの声でお話しているだけなのですが…せっかくなので、声の類似性について音声学的な話を少し。 人間の声は、声帯で作られるピッチと、声道(喉・口腔・鼻腔)の形状で決まる共鳴特性によって成り立っています。 声道の長さ・形状は、身長や骨格と強く関係しており、個人差も大きい。 ですが80億人もいるので、色々な条件の組み合わせの中で「似た声」が出てくるのは、生物学的に自然な現象です。 顔の「そっくりさん」がいるのと同じ理屈です。 むしろ、顔は似せるために極めて多くの条件が同時に一致する必要がある一方で、声は連続的な変数が多く、完全に一致しなくても「似た音色」として聞こえやすいのです。 つまり、「声の出力(聞こえ方)」が似る確率は、「顔が似る」確率より高い傾向があるということです。 実際、法廷音声鑑定の分野では、声は指紋ほど完全にユニークではなく、似た声の誤認リスクは常に議論されています。 特に双子研究では声の類似性が非常に高いケースが多く報告されています。 つまり「似てる声」は普通に「あるある」なのです。 僕の場合は、完全に親父と瓜二つの声であって、誰かの声を学習させたAIでも声真似でもありません。 (ちなみに副鼻腔炎になりやすい鼻腔なので、似てる人は副鼻腔炎持ち率が高いかも…?) ということで、これを読んだ人は「似てる声」は「顔が似てる」と同様に、ただのあるあるなんだということを、新しい知見として認識してもらえると良いなと思います。 そして、誤解している人を見かけたら「違いますよ」と指摘していただけますと幸いです。 ※ただし、これは自然に生まれた声の話です。 特定の声優の声をAIに無断で学習させて、収益化するのは全く別問題です。 おそらく最新の分析技術であれば、生声か学習かくらい判別できそうですが、どうなんでしょう??🧐

神のみぞ知る

19,510 views • 1 month ago

先日、SUNOで生成されたものをmp3でダウンロードするか wavでダウンロードするか、で音質が違うという話題を見かけました。 SUNOもACE Studioも(というかAI生成全部かもしれない) mp3で生成されます。 SUNOの場合、生成された状態はmp3でもwavでダウンロードを掛けると何かしらのフィルターが掛かって書き出されるのか それともコンバートの精度なのか、音は変わるっぽい。 その話題で、初心者の方々に誤った勘違いが起こっているのをちょこちょこ見かけました。 ここからはSUNOやAI生成の話ではないです。 WAVやAIFFからmp3やAACに変換された音声は 圧縮するために情報量が削られます。 この動画を見ていただければ、元は同じファイルでも mp3の方は上が無くなっている事が分かると思います。 で、この状態のmp3やAACを、wavやAIFFに変換しても 容量が増えるだけで失った音質は戻ってきません。 なので「wavの方が音が良い」は、この状態になってしまったファイルには当てはまりません。 mp3と全く同じ音のまま容量が増えるだけです。 ちなみに、Logic Proはmp3やAACを取り込むと 自動的に設定しているwavかAIFFに変換されます。 ※DAWによっては、そのままmp3を扱うものと、wavに変換されるものがあります。 そのまま再生するとmp3と全く同じ音になります。 では、なぜDAWに入れた際にwavに変換されるのか? フェーダー操作やPluginを掛けていった際に、mp3とwavで結果が変わる点と mp3やAACを再生するために都度デコードしながら再生するので、無駄な負荷が掛かるためです。 とはいえ、現代のパソコンでこの程度の負荷は誤差の範囲ですが デコードしながらプラグインも掛ける行為が安定しているとはいえない、とされているからの様です。 ここでSUNOの話に戻します。 なので、SUNOで生成されたファイルをmp3でダウンロードした後に それを何かしらのソフトでwavに変換しただけの状態では 無駄に容量が増えただけで音質は変わっていない、という事です。 (先に書いたように、SUNOからのダウンロードにおいてはmp3とwavは音が違うようです。) その後、何かしらの変化を行った場合にwavが活きてくる。 何も変化を起こさない2mixのままならmp3のままでいい、という事になります。 ※一部、特殊な音声圧縮フォーマット「FLAC」は 元の音質に戻ります。

くうP

84,546 views • 2 months ago

この動画は私の知るAIアニメ研究者たちの情報を少しずつお借りして作成しました。 長い間バトル系AIアニメを研究してくれていた方々を私は知っています。 足りない性能の中、工夫して再現する姿は見ていて素晴らしくクリエイティブでした。 ツールの進化と共にクリエイターたちも進化しているAI動画界隈は見ているだけでも楽しいです。 AI動画ツールの進化は、そんな彼らの「好き」が開発の方向性を決めた結果ではないかと思います。 自分も彼らのようにいつまでも作る側でいたいものです。 【使用ツール】 Midjourneyで1枚生成 NanoBananaで差分生成 Hailuo AIで動画生成 Udioで音楽生成 ChatGPTでタイトル生成&etc... たった1枚画像生成するだけで、GoogleさんのNanoBananaは無限にシーンを再構成できます。 今回は1枚をずっと使っていましたが、作れば作るほどリファレンス素材が増えるので精度があがりそうです。 終わってから思ったんですが、できる限り全身が描かれていて背景の情報も多いイラストを用意するか、キャラクターの全身をNanoBananaでだしてから一緒に参照するか、靴とか服装とかプロンプトで補強するかしないと、服装が変わってしまいます。 今回はテストなので、動画生成も同じプロンプトでキーフレーム機能にまかせる形にしましたが、詳しい動作の内容や絵にないエフェクトの追加など、プロンプトでもう一枚中割りを追加する感覚で丁寧にプロンプトを書き込めばもっと精度があがると思います。 2年くらい動画生成の投稿してますがここまでAI動画のクオリティーがあがると思ってませんでした。 AIアニメを作っている人は、どんな方法で制作をしているかリプ欄で教えてくれると嬉しいです。 この動画はCPPのリリース前テストとなります。 HailuoAIというツールがリリースする前のテスト段階から、誰よりも生成していたらCPPに誘われて、ここまでずっとお世話になっていました。 一時期は話題にあがらず心配していましたが、一通り音声ツールを強化した後にHailuo02で巻き返してくれて安心しました。 Minimax Audioもアニメ制作に使えるクオリティーの音声が生成できるのでしっかり地盤固めてましたね。 あとは、どんなスタイルでもどんなキャラクターにも使える動画用リップシンク機能とかきたら嬉しいです。 効果音完璧につけてくれる機能とかあったら神!! とりあえず楽しいけどバトルアニメはもういいかな…笑 AIアニメ制作の最適解が何かは日々更新されますのでみんなで研究し続けましょう!! 次、何つくろっかな…🤔✨ ※エンドフレーム機能はCPPでβテスト中です!!🙏

SEIIIRU😈動画生成AIを使う映像クリエイター

30,190 views • 10 months ago

✨AI音声で一貫した声を作り会話させるチャレンジ 前に音声を使ってLLMの文章を読ませることには成功していたけど、今回はオリジナルの声を作成してみました。 やったこと: ①まずQwen3-TTSで声を1個作る ②その声で171個量産(台詞バリエーション) ③Style-Bert-VITS2で学習 → 50分でカスタム音声モデル完成 ④UIに接続 → リアルタイムで喋る やばい!自分で作った声だと楽しい😊 苦労したところ: ・最初はブラウザ内TTS(Chatterbox)を試した → 1文30秒&英語のみでまだ難しいしそもそもこの用途が厳しいかも💦 ・SBV2に切り替えたら環境構築に手間取ったけどうまくいった ・ただライセンスは要注意。やる場合は先にライセンス確認を。用途によっては制限があるものもある📝 まだまだ色々あるけど、今後のことを考えるとNVIDIAからも良い音声AIが出てるし、対応できるようにしておきたい。 今回は前回と同じくモデルはGPT-OSS 20Bだけど、Ollamaから読んでるので早い。 WebGPUでこれぐらい出たら嬉しいけどなー🥰 とはいえローカルでここまでできるようになったのは嬉しい。データは一切外に出ないしね。 声の元はAI生成だから、「存在しない人の声」をAIが学習して、AIキャラが喋る。 #AI #TTS

LUTA@AI

57,505 views • 4 months ago