テキストベースのチャットbotとは異なり、複数の技術が組み合わさっている。
### アバターが回答する仕組み（HeyGenのようなシステム）
1. 音声合成(Text-to-Speech, TTS)… Google Cloud Text-to-Speech, Amazon Polly
ユーザのテキスト入力を音声に変換する技術
2. 顔の動きや表情の生成
アバターの顔の動きや表情を生成するために、以下の技術が使用される
– 3Dモデリングとアニメーション: アバターの3Dモデルを作成し、表情や動きをアニメーションで表現 Unity, Unreal Engine
– フェイシャルキャプチャ: ユーザの表情をリアルタイムでキャプチャし、それをアバターに反映させる
3. 音声とアニメーションの同期
生成した音声とアニメーションを再生
### gTTSによる簡単な音声合成(Text-to-Speech, TTS)
$ pip3 install gTTS
from gtts import gTTS
import os
text = "こんにちは、私はAIアバターです!"
tts = gTTS(text=text, lang='ja')
tts.save("output.mp3")
# os.system("start output.mp3") # For Windows
### 口パク同期処理
$ pip install gTTS pygame pydub numpy
gTTS -> 音声生成
pygame -> 口パクの可視化(簡易アバター表示)
pydub -> 音声の振幅解析
numpy -> 音声データ処理
from gtts import gTTS
from pydub import AudioSegment
import numpy as np
import pygame
import os
# --- 1. 音声生成 ---
text = "こんにちは、私はAIアバターです！"
tts = gTTS(text=text, lang='ja')
tts.save("output.mp3")
# mp3 → wav に変換（pydubで扱いやすくするため）
sound = AudioSegment.from_mp3("output.mp3")
sound.export("output.wav", format="wav")
# --- 2. 音声データを読み込む ---
audio = AudioSegment.from_wav("output.wav")
samples = np.array(audio.get_array_of_samples())
# モノラルに変換（ステレオの場合）
if audio.channels == 2:
samples = samples.reshape((-1, 2))
samples = samples.mean(axis=1)
# 振幅を正規化
samples = samples / np.max(np.abs(samples))
# --- 3. Pygameで口パク表示 ---
pygame.init()
screen = pygame.display.set_mode((400, 400))
pygame.display.set_caption("口パクアバター")
# 音声再生開始
os.system("start output.wav") # macOS: afplay output.wav / Linux: aplay output.wav
clock = pygame.time.Clock()
running = True
idx = 0
sample_rate = audio.frame_rate
fps = 30 # 1秒あたりのフレーム数
samples_per_frame = int(sample_rate / fps)
while running and idx < len(samples):
for event in pygame.event.get():
if event.type == pygame.QUIT:
running = False
# 現フレームの振幅を計算
frame = samples[idx:idx+samples_per_frame]
amplitude = np.abs(frame).mean()
# 口の高さを振幅に応じて変化
mouth_height = int(50 + amplitude * 200)
# 背景
screen.fill((255, 255, 255))
# 顔（円）
pygame.draw.circle(screen, (255, 224, 189), (200, 200), 100)
# 口（長方形）
pygame.draw.rect(screen, (150, 0, 0), (150, 250, 100, mouth_height))
pygame.display.flip()
idx += samples_per_frame
clock.tick(fps)
pygame.quit()
### フロント(X-code, AndroidStudio)とバックエンド(Python)の切り分け
##### バックエンドで担当する処理
1. ユーザー入力の受け取り
アプリから送られてくるテキストメッセージを受信
例: /chat エンドポイントで JSON 受け取り
2. AI応答生成
ChatGPT APIなどを呼び出して返信テキストを生成
例: “こんにちは！今日はどんなことを話しましょうか？”
3. 音声生成（Text-to-Speech, TTS）
生成したテキストを音声データに変換
gTTS, OpenAI TTS, Coqui TTS など
出力形式は MP3/WAV など
4. 音声解析（口パク用振幅解析）
音声データを読み込んでフレームごとの振幅を算出
numpy や pydub で RMS / 平均振幅を計算
口パクアニメーションの高さや動きの指標として返す
5. バックエンドからクライアントへの送信
{
"text": "こんにちは！",
"audio_url": "https://server/output.wav",
"lip_sync": [0.1, 0.2, 0.3, ...] # フレームごとの振幅データ
}
##### クライアント（Android / iOS）で担当する処理
1. ユーザー入力の送信
テキストをバックエンドに送る
HTTP POST / WebSocket
2. 受信したデータの処理
テキスト表示
音声データの再生
Android: MediaPlayer / ExoPlayer
iOS: AVAudioPlayer
口パクデータの再生（振幅に応じてアバターの口を動かす）
3. 口パクアニメーション
受信した lip_sync 配列をフレーム単位で参照
Unity / SceneKit / SpriteKit などでアバターの口の高さや形を変化させる
バックエンドは「音声と口パクデータの生成」まで
実際の描画や音声再生はアプリ側で行う
なるほど、この仕組みは凄い！
