AIのべりすと α2.0 | 日本最大級の文章・小説生成AI

▼はじめに

 

わたしは独立系ゲームデベロッパーBit192の代表を務めるStaです。主に音楽ゲーム「Tone Sphere」などのゲームアプリを開発してきました。

ゲーム開発のかたわら、一人のクリエイターとして感じていた「制作を手助けをする、こんなAIがあったらいいな」というアイディアを実現するために研究開発を進めています。

 

メディア出演・掲載歴：

テレビ朝日「あいつ今何してる？」

「WIRED日本版」「電脳画報」など

 

 

▼「AIのべりすと」について

 

「AIのべりすと」はAIによる小説・文章生成アプリです。まずは試してみてください。

 

Google TRCのご厚意により提供されたTPU（テンソル・プロセシング・ユニット）と、オープンソースコミュニティのEleutherAIによるTPU向けフレームワークであるMesh Transformer JAXを用いて、68.7億パラメーター、500GB（重複あり・文庫本にして約174万冊分）というコーパスを持つ日本語最大級のAIをフルスクラッチで小説生成向けに訓練しました。

 

書き出しの部分を書けば、その続きをAIが自動的に書き続けてくれます。現代日常系の小説、探偵小説、ロマンス、ホラー、サスペンス、ファンタジー、異世界転生もの（なろう系）など、どんなジャンルにも対応することができます。

 

それだけではなく

1. AIと二人三脚でストーリーを作る
2. 途中で三人称や登場人物の一人称に視点を切り替える
3. 登場人物と質疑応答やインタビューする
4. 俳句を詠ませてみる
5. AIが好きな映画のTOP10やレビューを書かせる
6. そこまでのストーリーを要約させる
7. キャラクターのプロフィールを生成する

など、すこしの工夫次第でさまざまな遊び方や機能を利用することができます。

 

▼なぜそんな事ができるの？

 

「AIのべりすと」のようなAIは自然言語処理AIと呼ばれます。このもっとも原始的な形が「マルコフ連鎖」と呼ばれる隣接する単語同士の出現する確率にのみ着目したアルゴリズム（でたらめな日本語で書かれたスパムメールを見たことがないでしょうか？）と言えるでしょう。

 

ここ2年、自然言語処理AIは「Transformer」の登場で一気に進歩しました。Transformerが何よりも画期的だったのはセルフ・アテンションと呼ばれる仕組みです。

 

例えば、「私はロボット三原則を守るAI、デイジーです」という文章を読み取った時、AIはまずこれを再解釈して「私」が誰のことを指しているのか推論し、「デイジーはロボット三原則を守るAI」という文に変換してから続きを生成します。

 

2020年にOpenAIが発表した「GPT-3」は、上記に挙げたような多種多様なタスクを自然にこなすことができるようにまでなっています。「AIのべりすと」のAIは、GPT-3をモデルとして開発した、ほぼGPT-3同様のスペックを持つAIであり、広義のインタラクティブ・ストーリーテリングAIに相当するものです。

 

▼インタラクティブ・ストーリーテリングとは？

 

「インタラクティブ・ストーリーテリング」とは、「バランス・オブ・パワー」「シブートの遺産」などのゲームを代表作に持ちゲームデザイン学の開祖といわれるクリス・クロフォード氏が2000年代から2010年代にかけて提唱した概念で、ストーリーラインがどのような形によっても事前に決められていないゲーム等のデジタルエンターテンイメント（クロフォード氏はこれを「インタラクティブ・メディア」と呼びます）のことを指します。

 

このジャンルは技術的な制約から長年停滞してきましたが、「Transformer」によって今まで不可能だった複雑な自然言語処理が可能となったことで一気に花開きつつあります。今年は特にブレイクスルーの年といってよく、文章から画像を生成したり、逆に画像を文章に変換したりすることがかなりの精度で可能になりました。まったく別分野のAIとAIを組み合わせたマルチ・モーダルAIは、ゲームやデジタルエンターテンイメントのあり方を変えていくはずです。

 

※ Bit192では、日本語で画像を生成できる「とりんさまAI」をツイッターで稼働させています。ぜひお試しください。

 

 

▼快適なAIサービスをつくるために

 

68.7億パラメータを持つ高度なAIをサーブするには高価なサーバーが必須となります。自宅のPCで「AIのべりすと」のAIを稼働させるにはもっとも安価なGPUでもGTX3090（約25万円）が必要です。

 

現在、「AIのべりすと」はA6000やA100という強力なGPUを搭載したサーバーを7台稼働させていますが、A6000は1台あたり約58万円、A100は1台あたり100万円以上と大変高価なもので、現在GPUクラウド・プロバイダーのCoreWeaveと協力してサーバーの確保を進めていますが、ここ最近の半導体不足もありコストの問題が立ちはだかっています。

 

また、「AIのべりすと」は「Starbirth」というゲームアプリのサイドプロジェクトとして始まったもので、現時点ではほぼSta一人での運営になっています。ある程度のスケールのサービスを継続して運営するにはエンジニアを雇うための費用が必要になってきます。今回のクラウドファンディングは、当面（半年間）無料部分の運営コストをまかなった上で、さらなるAIの研究開発に充てることを目標としています。

 

皆様のご支援のほど、何卒よろしくお願いいたします。

 

▼支援の内容・今後の展望について

 

支援していただいた金額は下記のように使用いたします。

• （最優先）AIサーバーの増強
• サーバーやサービス保守点検のためのエンジニアの雇用
• より強力なAIの開発・研究費用

「AIのべりすと」の68.7億パラメータのAIはGoogle TRCのご厚意でご提供いただいた計算パワーによって訓練したものですが、実は、更に強力な200億パラメータのAIも途中まで訓練が済んでいます（現在もGoogle TRCと連携して開発進行中です）。

 

もしサービスが拡大していけば、ここから更に200億パラメータ、400億パラメータ、900億パラメータ……とより強力なAIを訓練して公開していくことも夢ではありません。ベースとなるフレームワークを作ったオープンソースコミュニティのEleutherAIでは、1750億パラメータの英語モデルを公開することを最終目標としていますが、日本語での1750億パラメータのAIモデルも仕様上は現時点で既に可能です（計算資源があれば、ですが）。

 

▼リターンについて

 

一定期間（支援額による）プレミアム利用権と、支援者の一覧に名前が掲載されるほか、限定グッズとしてイメージキャラクター「ユネスコ」「ワーズ＆トリン」のオリジナルクリアファイルおよびTシャツ（サイズ：150・S・M・L）としてご用意いたします。Tシャツは「AIのべりすと」特別仕様となる予定です。

 

※ リターンとして得られるプレミアム利用権は2022年10月までに利用開始のお申し込みをしていただく必要がございます。また、サービスがプレミアム利用権に定められる期間の途中で中断した場合、支援額の返金は行いません。

 

 

 

▼「AIのべりすと」に関する問い合わせ先について

 

【問い合わせ先】 Bit192 代表 Sta 宛 

【メールアドレス】  bit@ramblin.co.jp

【Twitter】 @naclbbr 

※事前確認無しでのお電話でのお問い合わせは、お控えいただきますようによろしくお願いいたします。

※個別の回答が難しい場合がございます。公式ツイッターやDiscordサーバー等で対応する場合がありますので、ご理解の程よろしくお願いします。