企業はどのようにAIを活用してAIを検出しているのでしょうか？

Chat GTPのような簡単にアクセスできる大規模な言語モデルの登場により、日常の人々はAIの力を利用して質問や質問をしたり、ソフトウェアにすべてのタスクを実行するように促したりすることができます。

コンテンツ制作に関しては、これは高品質のワードスミスを求めている企業にとって問題になる可能性があります。AI コンテンツは、事実上、不正確だったり、オリジナルでなかったり、盗用されたりする可能性があります。Googleの検索エンジンは、AIコンテンツに特にペナルティを課していないと言われていますが、AIの不適切な使用から生じる間違いや質の悪さにはペナルティを課します。大衆がAIを使用して成功できる分野は、コンテンツ作成だけではありません。採用と教育では、学生や求職者はテクノロジーを使って履歴書や学術論文を書いてきましたが、採点や選考に関しては多くの問題が発生しています。オンラインゲーム、特にリアルマネーが関係するゲームも懸念事項です。ボットと呼ばれるAIプログラムは、技術的な知識を持つ人が作成し、それを利用して不正行為を試みることができます。いずれの場合も、企業には AI を活用してこれらの悪影響に対処するという選択肢があります。AI のテキストやボットのゲームプレイを発見するプログラムを使うことで、企業は時代を先取りしようとしています。

オンラインゲームにおける AI 検出

最初に説明するカテゴリは、オンラインゲーム、特にオンラインカジノゲームとポーカーです。この業界は世界的に数千億ドルにも上ります。多額の資金が関わっているため、企業は詐欺や詐欺を検出し、AIアカウントを迅速に閉鎖することが不可欠です。これは、純粋に偶然に基づくカジノゲームにとってはそれほど問題にはなりません。AIボットはゲームに組み込まれているハウスエッジを克服できないからです。つまり、AIボットを使ってオンラインルーレットやスロットで不正行為をすることは事実上不可能です。AIボットの使用は、ポーカーのようにチャンスとスキルの両方が求められるゲームでははるかに懸念されます。この場合、人間が参加しなくてもプレイでき、少なくともプールで儲かるチャンスがあるAIプログラムを作ることができます。幸いなことに、ポーカーで大きなエッジを持つAIボットを作るのは非常に難しいです。ほとんどの場合、詐欺師はごくわずかな利益を得るために妥協しなければなりません。この問題に対処するために、主要なオンラインポーカーサイトでは、これらのボットを見つけてアカウントを禁止する専任のセキュリティチームを設置しています。例えば、 イグニッションポーカー プレーヤーのデータと取引を最高レベルで保護する一流の暗号化方式を採用し、まったく予測不可能なカードの組み合わせを作成するカードシャッフルアルゴリズムも組み込んでいます。全体として、チートを試みるとすぐに暴露されるため、このプラットフォームはプレイヤーにとってかなり安全な環境を提供します。オンラインゲームサイトでは、セキュリティの一環としてAI検知システムを採用している場合があります。これらのシステムは、人間よりもはるかに効率的にサイトをスキャンして、異常なアカウントアクティビティ、異常な行動、奇妙で一貫性のあるベッティングパターンを見つけます。いったんフラグが立てられたら、人間がこれらを監視し、人間がさらなる行動を取るかどうかの最終決定を下します。

採用と教育において

今 大規模言語モデル Chat GTPと同様に、インターネットを変え、あらゆるテキストベースのドキュメントを作成するためのソリューションをほぼ瞬時に提供しました。これには、会社や教育機関にとって非常に問題となる履歴書、求人応募、学術論文などが含まれます。人材紹介会社は選考の第一段階で応募者追跡システム（ATS）を使用して、何百人もの潜在的な応募者をスキャンします。これらのシステムのほとんどは、少なくとも今のところ、応募内容を分析し、それを職務記述書と照合することに重点を置いています。AI検出ツールは含まれない傾向にあります。つまり、技術的に言えば、AIアプリケーションの品質が手作業でチェックされていれば、おそらくこの初期審査を通過できるということです。ただし、この後、申請は手動で評価され、申請者自身がさらに面接や対面での作業を受ける必要があります。AIで書かれた応募書類は審査に通るかもしれませんが、それでも就職に必要なスキルと経験が必要です。企業がAI検出をATS審査段階に組み込むことを決定した場合、この状況は将来変わる可能性があります。あるいは、その逆になる可能性もあります。将来を見据えた企業、特にテクノロジー業界の企業は、言語モデルの使用を AI の革新と経験の表れと見なす可能性があります。学生はツールを使って成績を不正に使う可能性があるため、この問題は教育においてはるかに深刻です。大学や専門学校では、こうした問題に対処してきました。 人工知能ディテクター。このソフトウェアは、エッセイをテキストのデータベースと比較し、使用されている言語とその使用方法を分析します。大学によっては、偽陽性スコアが 1% 未満と非常に低いことが報告され、自社のAI検出器は非常に正確であると主張しているケースもあります。しかし、オープンAI自身は、2023年に検出ツールの精度が不十分であることを認め、検出器を廃止しました。繰り返しになりますが、この問題に取り組むには、AIツールと人間の介入を組み合わせる必要があります。

コンテンツライティング

多くの企業が、実際の広告だけでなく、ウェブサイトやオンラインキャンペーンに関わるすべてのために、コンテンツ作成を外部委託しています。いわゆるライターはチャットGTPを活用して、記事やブログ投稿の作成にかかる時間を大幅に短縮できます。許可を得て、テキストの編集や調整などの目的で使用する場合、 AI は生産性を向上できる。問題は、AIライティングは一般的で不正確で、著作権の観点から違法である可能性があることです。人間が書いたコンテンツほど独創的ではなく、お金を払った企業にとってサービスの価値が下がります。AIライティングの明らかな兆候には、過度に洗練された専門用語の使用、パーソナライズの欠如、特定の単語や文構造の繰り返しなどがあります。ただし、これらは経験の浅いライターの兆候でもあります。いずれにしても、AI コンテンツ検出器は再び使用できます。AIの観点からテキストがどれほど予測可能かを表すパープレキシティなどの特徴や、単語の使い方、文の長さ、構造のばらつきなどをスキャンします。これらの検出器は必ずしも正確ではないことを考えると、やはり人間の介入が重要です。ソフトウェアがAIの使用の可能性を検出すると、コンテンツマネージャーは作業内容を確認してコンテンツを長期的に監視し、さらなる対策が必要かどうかを判断できます。事実上、AI検出ツールはAIの大規模言語モデルと常に軍拡競争を繰り広げています。企業が AI の利用状況を把握し続けるためには、検出器が AI 生成テキストの複合品質に遅れずについていく必要があります。