Jack Dorseyが率いる決済企業Blockは、驚くほど人間らしい音声AIモデル「Dessa」を公開し、その高度な会話能力に注目が集まっている。一方で、この技術が電話詐欺の検知を困難にするリスクを指摘する声も上がっている。
Blockの発表によると、Dessaはテキストではなく人間の音声のみを用いて学習され、会話中の割り込みや笑い、トーンの変化にも対応できるという。Dorseyは自身のX投稿で「これと話していると人間と話しているかのような感覚を得られる。感情、ニュアンス、間、自然な抑揚に満ちている」と述べている。
デモの一例では、Dessaが文の途中で笑ったり、驚きに伴う自然な反応を示したりしており、会話は誰の指示も受けずにライブで録音された。音声を一度テキスト化してから応答を生成する従来方式とは異なり、Dessaは音声を直接処理する仕組みだ。BlockはNvidia GB200 NVL72による単一のコンピューティングシステムでDessaをゼロから学習させ、MacBook ProのM4 Maxチップでローカル実行できるほどコンパクトなモデルと説明している。
現在、Dessaは一般公開されておらず研究プレビューの段階にある。
Dessaの自然な会話能力はSNSで話題となり、XユーザーのAlexander Hoffは「これほど人間らしく聞こえる人工音声は初めてだ」と称賛。ユーザーのHesamationは「まるでSFの世界のようだ」と表現した。Binance創業者のChangpeng “CZ” Zhaoも、教育分野での活用に期待を寄せ、「GiggleAcademyにとって非常に良いかもしれない。現在のAI音声では子どもたちへの教育に課題があった」と述べている。
しかし、一方でこの高い人間らしさは悪用の懸念も招いている。映画監督のJustine Batemanは、AI音声が人間のように聞こえる必要性に疑問を示し、「人々を騙すために使われる恐れがある」と警告。ジャーナリストのShiv Aroorも詐欺電話の拡大を警戒し、「詐欺電話がパンデミック級の規模に達する恐れがある」と述べている。
DessaはSquare、Cash App、bitcoin wallet Bitkey、bitcoin mining hardware部門Protoなどを運営するBlockのAI研究ラボが開発。Dorseyに直接報告しており、Squareが2020年に買収したトロント拠点のAIスタートアップDessaの元スタッフも参加している。
現在Blockはモデルの規模やベンチマーク結果、一般公開時期を公表していない。公開されている音声サンプルも同社のデモに限られている。同社は少人数のAI安全性研究者に早期アクセスを提供し、音声AIがテキストでは把握しづらい苦痛や感情の手がかりを認識する可能性を探りつつ、潜在リスクの評価も進めている。