「合成データ」とは？

合成データとは、現実世界から集めたものではなくコンピュータが生成した学習用データのことで、AIの分野では別のAIモデルが書いたデータを指すのが普通です。本物のデータが足りない、機密である、あるいはラベル付けの費用が高すぎるときに使われます。標準的な手法になる程度にはうまく機能し、議論が絶えない程度には問題も抱えています。

合成データが存在するのは、本物のデータが尽きる、ラベル付けに金がかかりすぎる、あるいは法的に使えないからです。まずプライバシーの場合から見ると、患者記録を共有できない病院は、統計の似た人工の患者を生成してそちらを共有でき、そのファイルには実在の人物が一人もいないからです。枯渇の話はもっと大きく、人間の書いた文章で学習してきた研究所は有限の供給を消費し続けてきたため、次のモデル用の学習素材をモデルに書かせることが増えています。丁寧にやれば本当に有用で、生成した例をモデルの弱点にぴたりと狙い撃ちできるので、すでに知っていることの山をもう一度かき集めるよりずっと効率的です。雑にやれば劣化し、生成側の欠陥や死角がそこから学ぶ側に受け継がれて増幅されるからで、研究者はこれをモデル崩壊と呼びます。安全策はこのリスクから直接導かれ、本物のデータを混ぜ続け、生成したバッチをふるいにかけ、出来上がりを教師ではなく現実に照らして検証することになります。

パイロット養成用のフライトシミュレーター。本物の緊急事態はまれで危険で予定にも組み込めないので、航空会社が自前で製造し、エンジン故障は注文次第、嵐も好きなだけ、週に100回でも構いません。こうして訓練されたパイロットは実際に腕が上がります、普通の経歴では決して出会わない状況を経験しているからです。ただしシミュレーターには作った人が入れようと思ったものしか入っていないので、実飛行時間を省略させる会社はどこにもありません。