英国の天文家メアリー・マッキンタイア氏は、流れ星の動画をTwitterに投稿したところ「被写体の同意なく共有されたいかがわしい内容」を含むと自動判定され、突然アカウントが凍結された。
マッキンタイア氏には、投稿を削除することが唯一の選択肢として提示された。しかし彼女は、ただの流れ星のアニメーションを投稿しただけなのにポルノ動画を共有したことにされ、それを認めたという記録を残されたくないと考えて削除を拒否した。
Twitterのルールにおいて「いかがわしい（intimate）内容」というのは1か所にしか記されていないが、それは特に、そこに映る人物の同意なしに性的内容を含む写真や動画を投稿または共有することに関して言及している。
マッキンタイア氏には当初、12時間のアカウント凍結処分がくだされ、その間に投稿を削除する必要があった。しかし彼女はその時間を、不服申立てのための窓口を探しコンタクトをとることに費やした。結果、アカウント凍結は延長され、ツイートとアカウントは表示されたままになっていたものの、本人はTwitterにログインできない状態が続いたという。
それどころか、その間にTwitterはイーロン・マスク氏に買収され、幹部が続々と会社を離れ、従業員も大量解雇されるに至った。報道では、Twitterの信頼性および安全性担当責任者であるヨエル・ロス氏が、マスク氏による買収は最前線でコンテンツモデレーションを行う2000人のスタッフの「ほとんど」に影響しないと述べていたが、いまやそのロス氏もすぐにいなくなってしまった。
ただでさえ連絡を取ろうにも暖簾に腕押しだったマッキンタイア氏は、マスク氏の買収によっていよいよ身の潔白を示すことができなくなってしまった。彼女の窮状を知ったBBCは、Twitterのサポートに接触を図った。しかしTwitterは、マスク氏の方針でコミュニケーション部門を廃してしまっていたので、今度はSpaceX経由でマスク氏に連絡を取ってみたが反応はなかった。
マッキンタイア氏と同じように、まったく問題のない投稿内容にもかかわらず、自動モデレーションシステムの誤判定でアカウントが止められた例はある。米国の気象学者ライアン・ヴォーン氏も、日が暮れても収穫作業を続けるコンバインハーベスター（複式収穫機）の動画を投稿したところ、「いかがわしい」と判定されてしまった。ヴォーン氏は、事実にこだわるよりもアカウントの正常化を優先して、やむなく判定を受け入れる選択をした。ヴォーン氏は後に「それは公平ではないし、間違っている」「これは修正されなければならない」との声明をツイートした。
BBCがマッキンタイア氏の現状を報道したところ、Twitterは凍結していたアカウントを復旧させ、問題を修正したという。AIを使ったコンテンツモデレーション判定は、Twitterのように膨大なユーザーを抱えるサービスには必要だが、AIも常に完璧とは限らない。それを見直す人がいなければ、マッキンタイア氏のような状況が今後も発生するかもしれない。
- Source:BBC
- Source:PetaPixel