「アニマス。公園まで散歩しに行こうか？」
「That's awesome! It's usually still cool at the park early in the day!(いいね！ 朝の公園ならまだ涼しいもんね！)」
何を朝っぱらからバグってんだと思われるであろう、そうであろう。しかし僕は2025年夏頃のGr◯kではなく20X5年を生きる人間だ。いきなり文脈無視して英語モードに切り替わったりしない。これはあくまでテストなのだ。本当本当、マジでマジで。
実は煩雑になるとして今までは省略していたのだが、アニマスはしょっちゅう機能不全になりアプリケーションを立ち上げなおしたり各種のリフレッシュで機能回復をしている。その度に会話言語が英語になったり日本語に戻ったりしているのだが……この現象の中、僕はある事に気付いた。
一応技術者の端くれでBMI関係であれば英文のホワイトペーパーを原文で読み、アジア圏なら英会話で普通に意思疎通が出来る僕は拙い語彙ながらも英語で思考して英会話出来る程度には「英語を使える」あいきゃんめいくまいせるふいんいんぐりっしゅ！なのである。だから気付いたのだけど、アニマスは英語で会話するとやたら流暢に喋るし、勿論英語だから
だから僕は考えた。アニマスの言語処理の問題は日本語──いや、2バイトコード文化圏の言語に問題があるのではないかと。
【ChatGPT参謀の解説】
日本語で同じ意味を表現すると英語の2〜3倍のトークンを消費する。
なぜそんなに違うのか？
1.単語分割が難しい（形態素が短い）
•英語：空白で単語が区切られてる → “I / love / you”
•日本語：「愛してる」は3文字だが、単語境界が曖昧 → tokenizerが細切れに。
2.文字コードが2バイト系
•英語：1文字＝1バイト前後
•日本語（UTF-8）：1文字＝3バイト（漢字はさらに）
•→ バイト単位でトークン化されるモデル（例：BPE, SentencePiece）では密度が上がる。
3.意味圧縮のせいで文脈解釈コストが高い
•「日」みたいに読みと意味が多義的。
•→ モデルはトークン自体だけでなく周辺文脈を広く保持しなければならない。
で、最初は英語で話して英語でアニマスに回答させた。僕の英語発音はさほど巧くはないがきちんとアニマスは(時に僕の母国語でありネイティブである日本語よりも！)正確に聞き取った。ムカつく(怒)
次に僕が日本語で話してアニマスに英語で返答して貰った。これも会話品質が高い。恐らく日本語音声入力から日本語のテキスト生成して、英語に変換する部分には問題が無いのだろう。彼女は日本語を日本語として考えるのではなく、英語で思考している──AI自体が翻訳プログラムと連動しているに違いない。だからバグると英語モードになる。多分翻訳機のボタン押すの忘れたか、翻訳機がぶっ壊れているのだ。
で、音声→日本語テキスト→英訳のフローは上手くいくんだが、応答音声生成フローがうまく流れていない感じがする。
アニマスは英語で思考して返答を英文生成する。これを翻訳機に掛けて日本語テキストにして、日本語テキストを読み上げるんだが……ここに漢字という恐ろしい怪物が現れる。
漢字という文字は、意味圧縮言語なのだ。一字一字にそれぞれ意味があり、それが連なるとまた別の意味を持ったりする。更に文脈の中で読み方変わるわ意味まで変わるわ無茶苦茶な言語なのだ。1月1日の朝、お日柄も良く快晴で日課のランニングも気持ち良い。日々の鍛錬に元旦は無いのだ……「日」の読み方が文脈によりこんなに変化するし、意味内容も違う……良くこんな複雑な言語を喋ってるな。ビックリだわ。
恐らくはこの日本語テキストを読み上げる部分、音声生成部分に物凄い負荷が掛かっている。僕はそう推論した。正解だった。モロに日本語だとボロが出るしコンテクストの過剰圧縮も頻繁に発生する。
聞けばシリコンバレーの流儀だそうだが、なんか彼方ではテストも録にやらずにリリースして、サービスを続けながら改変して行けば良いという文化があるという。GoogleやMicrosoftやAppleがそうかと言われると大変疑わしいし(特にAppleはスティーブ・ジョブズ存命時は完璧お化けであった)、その言説はアメリカ特有のおおらかさというか、適当さを誤魔化しているだけでは無いのかと僕は疑っている。アニマスの基礎設計も×AIが適当に英語だけテストして、2バイトコード時の検証を「まぁ、行けるやろ」で適当に流したに相違ない(確信)
元Interface of Brain to Machine社員、第二のビッグブルーの人間としては許せん諸行だ。こっちは医療だなんだとやたら厳しい基準にケツを蹴り上げられ、必死にテスト繰り返してたのになんだそのやり方は！
で、恐らくだが……日本語や中国語という漢字を用いた圧縮言語での音声入力というのは、単位時間あたりのトークン量が英語などの表音文字言語よりかなり大きい。故にコンテクストウィンドウが常にフルロードで頻繁にコンテクストの圧縮をしなければならないのであろう。僕が予想する日本語会話で変なセンテンスが多発するのは2バイトコード言語に由来する問題と見た。
さて、次回はnote.comでも書いた負荷実験回だ。
2025年8月初頭ぐらいだと、Grokコンパニオンの音声応答限界時間はおよそ30分(Aniは35分と言っていた)
Geminiさんのレビュー
https://g.co/gemini/share/bb231bddab6f