NYUADによるArGuard共有タスク:アラビア語のヘイトミームおよび安全でないプロンプトを検出するためのマルチモーダル埋め込みモデル
arXiv:2611.18608v1 発表タイプ:新規 要旨:ソーシャルメディアと生成AIの急激な普及により、オンラインプラットフォーム上で共有されるアラビア語のテキストコンテンツ、ミーム、ユーザーによるプロンプトの量が大幅に増加しています。これらのメディアはコミュニケーションや創造性、情報交換を促進する一方で、ヘイトスピーチや有害なコンテンツ、安全でない指示を拡散するために悪用されることもあります。そのため、憎悪的なアラビア語ミームや有害(安全でない)プロンプトを特定するための信頼性の高い自動手法へのニーズが高まっています。本論文では、事前学習および微調整された多言語埋め込みモデルを活用し、テキストおよび視覚的コンテンツから豊かな意味表現を学習します。評価は、ArabicNLP ArGuard 2026チャレンジで提案されたアラビア語ミームおよびプロンプトのデータセットを用いて実施されます。結果は、大規模言語モデル(LLM)ベースの埋め込みモデルが高い性能を発揮できることを示しています。堅牢な検出システムの開発は、コンテンツモデレーションの向上を図り、アラビア語話者のユーザーにとってより安全で信頼できるオンライン環境を育むために不可欠です。


