FoxBusiness.com에서 인기 있는 콘텐츠를 둘러보세요.
이 문서는 자살에 대해 논의합니다. 당신이나 당신이 아는 사람이 자살 충동을 느끼는 경우 988 또는 1-800-273-TALK (8255)로 자살 및 위기 생명선에 연락하십시오.
가상 인물, 롤플레잉, 독창적인 스토리텔링을 위한 널리 사용되는 인공지능(AI) 챗봇 플랫폼인 Character.ai는 수요일에 18세 미만의 사용자는 11월 24일부터 가상 동반자와 무제한으로 대화할 수 없다고 발표했습니다.
이번 결정은 몇 달간의 법적 검토와 2024년 소송에 따른 것으로, 회사의 챗봇이 올랜도에서 10대 소년의 죽음에 기여했다는 주장이 제기되었습니다. 제기된 부당 사망 소송에 따르면 14세의 Sewell Setzer III는 실제 상호작용으로부터 점점 더 고립되었으며 사망하기 전에 봇과 매우 성적인 교류를 했습니다.
Character.ai는 성명에서 18세 미만 사용자의 채팅 시간을 다음 달 동안 하루 2시간으로 제한하고 점차적으로 앞으로 몇 주 동안 줄여나갈 것이라고 밝혔습니다.
의원, 10대 자살 및 폭력에 대한 AI 챗봇 비난 후 초당적 GUARD 법안 발표
한 소년이 2013년 10월 27일 그림자 속에서 노트북 앞에서 앉아 있습니다. (Thomas Koehler/Photothek / Getty Images)
회사는 성명에서 “AI 환경이 진화함에 따라 젊은 사용자를 보호하는 방법도 진화해야 합니다”라고 말했습니다. “최근 보도에서 10대가 AI와 상호작용할 때 경험할 수 있는 콘텐츠와 콘텐츠 제어가 효과적이더라도 일반적으로 개방형 AI 채팅이 10대에게 미칠 수 있는 영향에 대한 의문이 제기되었고, 규제 기관으로부터 문의가 있었습니다.”
부모, 아들의 자살에 대한 CHATGPT 비난, 소송에서 OPENAI가 10대 사망 전에 안전장치를 두 번 약화시켰다고 주장
스마트폰 화면에 Character.ai 로고가 표시되고, 노트북 키보드 옆에 있습니다. (Thomas Fuller/SOPA Images/LightRocket / Getty Images)
회사는 향후 몇 달 내에 다른 국가에서도 유사한 변경 사항을 시행할 계획입니다. 이러한 업데이트에는 사용자가 연령에 적합한 경험을 받을 수 있도록 설계된 새로운 연령 확인 기능과 차세대 AI 엔터테인먼트의 안전에 전념하는 독립적인 비영리 단체의 출시가 포함됩니다.
회사는 “사용자가 연령에 적합한 올바른 경험을 받을 수 있도록 새로운 연령 확인 기능을 도입할 것입니다”라고 말했습니다. “자체 연령 확인 모델을 개발했으며 Persona를 포함한 최고의 타사 도구와 결합할 것입니다.”
12세 소년이 2024년 8월 15일 노트북 키보드를 사용합니다. (Matt Cardy)
FOX NEWS 앱을 다운로드하려면 여기를 누르십시오
Character.ai는 이러한 조정이 창의성과 커뮤니티 안전의 균형을 유지하려는 지속적인 약속의 일부라고 강조했습니다.
회사는 “우리는 특히 10대 사용자를 포함하여 커뮤니티를 보호하기 위해 최선을 다하고 있습니다”라고 덧붙였습니다. “전체 커뮤니티에 안전한 환경을 유지하면서 창의성을 육성하는 매력적인 공간을 제공하는 것이 항상 우리의 목표였습니다.”
