メルカリで商品説明文を書く時、AIの文章生成機能を使ったことがある方も多いと思います。しかし、価値交換工学チームには、メルカリがこの機能を提供する前から、「AIと人が共に文章を作る未来がきたら？」と問い、その可能性と影響を探求した研究者がいます。

彼らは、今はまだ存在していないものに対して「もしあったら世界はどうなるのか？良い面や悪い面は？何が起きるのか？」という問いを立て、そのプロトタイプを作り、シミュレーションで検証するというユニークな手法をとっています。そんな先駆的な思考を持つ3名に、今回の研究について詳しく伺いました！

今回お話しを伺ったのは（写真左から）：
・東京大学情報学環　Ari Hautasaari特任准教授
・東京大学学際情報学府　博士課程1年　中條麟太郎氏
・mercari R4Dラボ　リサーチャー　藤原未雪氏

宮平（以下――）まず、今回の研究がどのようなものか、教えて下さい。

中條・Ari・藤原（以下省略）
ざっくりいうと今回の研究は、「フリマアプリ内の商品説明文をAIと一緒に書く」ということに対して人間がどう感じるか、を観察した研究です。
人間がAIと協力して文章を作成することは、今後、今以上に当たり前になっていくと考えられます。その中でも特にデリケートな、個人同士が物を売買するという状況で、AIが作成に関わった商品説明文に人々はどう感じるのか、取引の成功に影響するのか、といった点に注目しました。

――　具体的にはどのような実験を行ったのですか？

人々のリアルな行動を観察するためにメルカリの出品画面を模したテスト用のデモアプリを作り、そこで出品のシミュレーションをしてもらいました。
実験に参加いただいた方には、実際に自分の物の写真を撮り、AIと共同で商品説明文を作成し、値段を設定してもらいました。集まった計82点の出品データ（物、商品説明文、値段）と、説明文作成の負担がどう変わったか、信頼性や正直さなどについての感想など、いくつかの点を分析しました。

――　まだAIの文章生成機能がない時にこの実験に参加された方はびっくりしたのではないでしょうか（笑）実験ではどのような結果が得られたのですか？

まず、AIの文章生成サポートが①出品者の負担軽減に繋がるということがきちんと確認できました。大規模言語モデル（LLM）の発達に伴い、AIが作成した文章に必要な手直しが減ったためだと考えられます。

一方で、AIが質の高い文章を書いてくれることで出品者が内容確認を怠る②「社会的手抜き」を促進する、というリスクも示唆されました。AIの文章には間違いがあるかもしれないのに出品者が内容を十分に確認しないケースが生じうる、ということです。

また、当初想定していなかった点として、③LLMが提示した商品説明文を使った時、出品者が最初設定していた価格よりも値段を上げる現象が見られたことはとても興味深かったです。これは、AIの文章が商品の魅力を高めたと感じ、出品者がその価値を再評価した結果だと考えられます。

他にも、AIの活用は「手抜き」や「ずる」という感覚に繋がるのではという予想に反し、AIを使った文章作成に対する④罪悪感が想定よりも低かったことや、AI提案で書いた文章と、自身で書いた文章とで⑤「正直さ」の認識に大きな差がないという結果も得られました。

――　これらの結果は、どのように活用できる可能性があるのでしょうか？

様々な場面での活用が考えられますが、フリマアプリ自体のデザインの検討が一例としてあげられます。例えば「社会的手抜き」によりAIが作った間違った情報がそのまま出品に使われると、取引トラブルが増加するリスクが高まるかもしれません。この対策として、出品者がAI作成の文章を利用する際には最後まで内容を確認したことを示すボタンを設けたり、AIによる提案をどの程度編集したかといった履歴を見れるようにするなど、チェックを促す機能の追加などが検討できるかもしれません。

――　この研究の独自性や工夫したところはどのような点でしょうか？

まず、お金に直結するようなセンシティブな文脈に焦点をあてた点です。人間とAIの協働作業に関する研究は存在しますが、取引のように失敗時に明確なコストが生じる場面とそうでない場面とでは、人の認識や行動に差があると考えているからです。近年広く普及しているにも関わらず、フリマアプリの商品説明文における協働執筆プロセスそのものを研究した事例は世界的にもほとんどなく、もしかすると初の試みかもしれません。

AIが書いたものを人間が修正するパターンと、人間が書いたものをAIが修正するパターンの両方を検討した点もユニークです。現在のフリマアプリの機能は前者に近いですが、「人・AI協働」の多様な可能性を探る意味では両方の検討が必要だと考えました。また、実験にも特徴があります。今回のシミュレーションの方法は、一般的な心理学やHCI（Human Computer Interaction：人とコンピューターの間のデザインに関する研究分野）の実験デザインとは異なり、かなり実際の環境（インザワイルド）に近い、実践的な実験デザインといえます。

しかし、一番の特徴は「これから起きるかもしれない未来」に着目したというアプローチかもしれません。

――　これから起きるかもしれない未来に着目、とはどういうことでしょうか？

この研究は、将来的に起こりうるであろう「人間とAIの協働執筆」という、（当時）まだ世の中に広く普及していない、未来のシステムを実験で再現したものです。そしてこの研究の根底にある私たちの問いは、単に「AIを使って文章を作成するシステムをどう作るか」だけでなく、「そもそもこのようなシステムを作るべきなのかどうか」という点から始まっています。

今はまだ存在しない、これから生まれるであろうシステムを想像して再現し、そのシステムが導入された時に生じるメリット・デメリット、考えるべきポイントを明らかにするということが、本研究の大きな特徴です。存在しないシステムで課題や懸念もまだない、何に着目すべきかも不明な中で探索的な方法を取ったということは、すごくチャレンジングな点でした。

――　最後に、今後はどのように研究を展開していくのか、教えてください。

やりたいことは沢山ありますね！（笑）

まず、今後はより心理実験に近い形での検証も進めたいです。今回はできるだけ実際に近い行動を観察するために、実環境に近い実験にこだわりました。その分、結果データは複雑になりましたが、本質的な何かが垣間見えたと感じています。たとえるなら、色んな要素があって何が何に直接影響しているのかはまだはっきり分からないが、ここは大事そうだ、面白そうだ、という原石を見つけたような感じです。次はその本質（原石）を深掘りするため、設定した仮説について定量的に測定・評価するような実験をしたいと思っています。

次に、今回は売り手側に焦点を当てましたが、買い手がどう感じるか、そして売り手と買い手の間のコミュニケーション全体にAIがどのように影響するかという視点も非常に重要です。さらに、商品説明文の執筆だけでなく、お客様同士のやりとりやカスタマーサポートとのやりとりなど、様々なコミュニケーションの場面についても検討を進めたいですね。最後に、今回の研究のように、まだ存在しない未来のシステムをプロトタイプ（試作モデル）として構築し、実践に近い形で調査する。そして得られた知見を元に、今検討すべき問題を定義したり、システムや理論を構築していくという、探索的かつ実践的な研究手法も引き続き探求していきたいと考えています。

――　少し先の未来を見てきて現代に報告・アドバイスする、まるでちょっとした未来人のようですね。次はどんな未来を想像し、どんなプロトタイプを作るのでしょうか？既に他にも沢山の研究テーマが動いていますので、また特集していきたいと思います！