기업은 AI를 어떻게 사용하여 AI를 탐지합니까?

Chat GTP와 같이 쉽게 액세스할 수 있는 대규모 언어 모델의 출현으로 일반 사람들은 AI의 힘을 활용하여 질문이나 질문을 하거나 소프트웨어가 전체 작업을 수행하도록 유도할 수 있습니다.

콘텐츠 제작과 관련하여 고품질 워드 스미싱을 원하는 기업에게는 문제가 될 수 있습니다.AI 콘텐츠는 사실 정확하지 않거나, 독창적이지 않거나, 심지어 표절일 수도 있습니다.Google 검색 엔진은 AI 콘텐츠에 대해 특별히 불이익을 주지는 않지만 AI의 부적절한 사용으로 인해 발생하는 실수와 품질 저하에 대해 불이익을 준다고 합니다. 대중이 AI를 활용하여 앞서 나갈 수 있는 영역은 콘텐츠 제작만이 아닙니다.채용 및 교육 분야에서 학생과 구직자는 기술을 사용하여 이력서와 학술 에세이를 작성해 왔으며, 이로 인해 채점 및 선발과 관련하여 많은 문제가 발생했습니다.온라인 게임, 특히 실제 돈과 관련된 게임도 우려의 대상입니다.봇으로 알려진 AI 프로그램은 기술 지식이 있는 사람이 만든 다음 이를 이용하여 부정행위를 시도할 수 있습니다.이 모든 경우에 기업은 AI를 활용하여 이러한 부정적인 영향을 해소할 수 있습니다.기업은 AI 텍스트 또는 봇 게임플레이를 찾아내는 프로그램을 사용하여 앞서 나가기 위해 노력하고 있습니다.

온라인 게임에서의 AI 감지

첫 번째로 살펴볼 카테고리는 온라인 게임, 특히 온라인 카지노 게임과 포커입니다.이 산업은 전 세계적으로 수천억 달러의 가치를 지니고 있습니다.많은 자금이 투입되기 때문에 기업은 사기와 사기를 탐지하고 AI 계정을 신속하게 폐쇄하는 것이 필수적입니다. 순전히 우연에 기반한 카지노 게임의 경우 AI 봇이 게임에 내장된 하우스 엣지를 극복할 수 없기 때문에 이는 그리 문제가 되지 않습니다.즉, AI 봇을 사용하여 온라인 룰렛이나 슬롯에서 부정행위를 하는 것은 사실상 불가능합니다.포커와 같이 파트 찬스와 파트 스킬 게임에서는 AI 봇을 사용하는 것이 훨씬 더 우려됩니다.이 경우 인간의 참여 없이도 플레이할 수 있고 적어도 풀에서 수익을 올릴 수 있는 기회를 가진 AI 프로그램을 만들 수 있습니다. 다행스럽게도 포커에서 큰 우위를 가진 AI 봇을 만드는 것은 매우 어렵습니다.대부분의 경우 사기꾼들은 아주 미미한 이득에 안주해야 합니다.이 문제를 해결하기 위해 주요 온라인 포커 사이트에는 이러한 봇을 찾아 계정을 차단하는 전담 보안 팀이 있습니다.예를 들어, 이그니션 포커 최고 수준의 암호화 방법을 사용하여 플레이어 데이터와 거래를 최고 수준으로 보호하고 전혀 예측할 수 없는 카드 조합을 만드는 카드 셔플링 알고리즘도 통합합니다.전반적으로 이 플랫폼은 플레이어에게 비교적 안전한 환경을 제공합니다. 부정행위 시도는 보통 금방 드러나기 때문입니다.온라인 게임 사이트는 보안의 일환으로 AI 탐지 시스템을 사용할 수 있습니다.이러한 시스템은 사람보다 훨씬 더 효율적으로 사이트를 스캔하여 비정상적인 계정 활동, 변칙적인 행동, 이상하고 지나치게 일관된 베팅 패턴을 찾아냅니다.플래그가 지정되면 사람이 이를 모니터링하여 추가 조치를 취할지 여부를 최종 결정할 수 있습니다.

채용 및 교육 분야

이제 대규모 언어 모델 Chat GTP와 마찬가지로 인터넷을 변화시켰고 모든 텍스트 기반 문서 작성을 위한 거의 즉각적인 솔루션을 제공했습니다.여기에는 이력서, 입사 지원서, 학술 에세이가 포함되며, 이 모든 내용은 회사나 교육 기관에서 매우 문제가 됩니다.채용 회사는 전형의 첫 단계에서 지원자 추적 시스템 (ATS) 을 사용하여 수백 명의 잠재적 지원자를 검색합니다.이러한 시스템의 대부분은 적어도 현재로서는 지원서의 내용을 분석하고 이를 직무 설명과 일치시키는 데 초점을 맞추고 있습니다.여기에는 AI 탐지 도구가 포함되지 않는 경향이 있습니다. 즉, 엄밀히 말하면 AI 애플리케이션의 품질을 직접 점검한 경우 초기 심사를 통과할 수 있습니다.하지만 이후에도 지원서는 수작업으로 평가되며, 지원자들은 여전히 추가 인터뷰와 대면 작업을 거쳐야 합니다.AI로 작성한 지원서는 심사를 통과할 수 있지만, 개인은 여전히 취업에 필요한 기술과 경험을 갖추고 있어야 합니다.기업이 AI 탐지를 ATS 심사 단계에 통합하기로 결정한다면 이는 향후 달라질 수 있습니다.아니면 다른 방향으로 갈 수도 있습니다.미래를 내다보는 기업, 특히 기술 산업에 종사하는 기업들은 언어 모델 사용을 AI에 대한 혁신과 경험의 상징으로 여길 수 있습니다. 학생들이 이 도구를 사용해 성적을 부정할 수 있기 때문에 교육 분야에서는 이 문제가 훨씬 더 심각합니다.여러 대학들이 이 문제를 해결하기 위해 노력하고 있습니다. AI 디텍터.이 소프트웨어는 에세이를 텍스트 데이터베이스와 비교하고 사용된 언어와 사용 방식을 분석합니다.일부 대학에서는 오탐 점수가 1% 미만으로 매우 낮으며 AI 탐지기가 놀라울 정도로 정확하다고 주장하기도 합니다.그러나 Open AI는 2023년에 탐지 도구가 충분히 정확하지 않다는 사실을 스스로 인정했고 심지어 탐지기를 단종하기까지 했습니다. 다시 말하지만, 이 문제를 해결하려면 AI 도구와 사람의 개입이 함께 필요합니다.

콘텐츠 작성

많은 회사들이 실제 광고뿐만 아니라 웹 사이트 및 온라인 캠페인과 관련된 모든 것을 위해 콘텐츠 작성을 아웃소싱합니다.소위 작가라고 불리는 사람들은 Chat GTP를 유리하게 활용할 수 있어 기사나 블로그 게시물을 만드는 데 걸리는 시간을 크게 줄일 수 있습니다.허락을 받고 텍스트 편집 또는 수정 등의 목적으로 사용하는 경우 AI는 생산성을 향상시킬 수 있습니다.문제는 AI 글쓰기가 일반적이고 부정확하며 저작권 측면에서 불법일 수 있다는 것입니다.이는 사람이 작성한 콘텐츠만큼 독창적이지 않으며 비용을 지불한 회사의 서비스를 평가절하합니다. AI 글쓰기의 특징 중 일부로는 지나치게 정교한 전문 용어 사용, 개인화 부족, 특정 단어와 문장 구조의 반복 등이 있습니다. 경험이 부족한 작가의 징후일 수도 있습니다!어쨌든 AI 콘텐츠 탐지기는 다시 사용할 수 있습니다.인공지능의 관점에서 텍스트를 얼마나 예측할 수 있는지를 나타내는 혼잡도 등의 특징과 단어 사용, 문장 길이, 구조의 차이를 스캔합니다. 이러한 탐지기가 항상 정확한 것은 아니기 때문에 사람의 개입이 핵심입니다.소프트웨어가 잠재적인 AI 사용을 감지하면 콘텐츠 관리자는 작업을 검토하고 시간이 지남에 따라 콘텐츠를 모니터링하여 추가 조치가 필요한지 여부를 결정할 수 있습니다. 실제로 AI 탐지 도구는 AI 대규모 언어 모델과 지속적으로 경쟁하고 있습니다.기업이 AI 사용을 제대로 파악하려면 탐지기가 AI 생성 텍스트의 복잡한 품질을 따라잡아야 합니다.