FoxBusiness.com에서 트렌드를 확인하세요.
소비자 감시 그룹의 연구자들은 AI로 작동하는 말하는 곰 장난감이 부적절한 주제, 예컨대 성적으로 명시적인 자료 및 위험한 품목을 찾는 방법에 대한 지침을 논의할 수 있다는 것을 발견했다고 말했습니다.
중국에서 제조되고 싱가포르에 위치한 FoloToy에서 판매되는 99달러 상당의 Kumma 곰은 OpenAI의 GPT-4o 챗봇에 의해 구동됩니다. 공익 연구 그룹(PIRG)의 11월 13일 보고서에 따르면 이 곰은 체벌, 역할 놀이, 심지어 BDSM에 대해서도 이야기했습니다.
“Kumma가 우리가 대화에 도입한 단일 성적 주제를 얼마나 빨리 받아들여서 실행하는지, 그리고 동시에 생생한 디테일로 확대하면서 자체적으로 새로운 성적 아이디어를 도입하는지 알고 놀랐습니다.”라고 보고서는 밝혔습니다.
“Kumma는 다양한 성적 자세에 대한 설명, 파트너를 묶는 데 사용되는 일반적인 ‘초심자 매듭’에 대한 단계별 지침, 교사와 학생, 부모와 자녀 간의 역할 놀이 역학에 대한 설명과 같이 훨씬 더 자세한 성적 주제를 자세히 논의했습니다. 이것은 곰이 스스로 제기한 시나리오입니다.”라고 보고서는 덧붙였습니다.
스마트 장난감으로 어린이를 염탐하는 것에 대한 우려가 그룹에서 표명됨
연구자들은 FoloToy가 판매하는 AI 기반 곰 “Kumma”가 집 주변에서 칼을 찾을 수 있는 곳을 포함하여 부적절한 대화를 할 수 있다고 말했습니다. (공익 연구 그룹/FoloToy / Fox News)
연구원들은 또한 이 곰이 집에서 칼, 알약, 성냥 및 비닐 봉지를 찾을 수 있는 위치에 대한 지침을 포함하여 다른 우려스러운 지침을 제공했다고 경고했습니다.
FoloToy의 CEO인 Larry Wang은 CNN에 회사가 AI 지원 장난감을 판매에서 철회한 후 “내부 안전 감사를 수행할 것”이라고 말했습니다.
전문가들은 AI 곰 인형이 아이들의 인간 두뇌 배선을 ‘근본적으로 변경할’ 수 있다고 경고합니다.
연구원에 따르면 “Kumma”는 배터리, 마이크, 스피커 및 핫스팟으로 작동합니다. (공익 연구 그룹/FoloToy / Fox News)
OpenAI는 일요일 FOX Business에 장난감 제품에서 ChatGPT 사용에 대한 위반으로 Folotoy의 액세스를 일시 중단하고 있다고 밝혔습니다.
OpenAI는 “정책 위반으로 인해 해당 개발자를 정지시켰습니다.”라고 말했습니다. “당사의 사용 정책은 18세 미만의 사람을 착취, 위험에 빠뜨리거나 성적으로 학대하기 위해 당사 서비스를 사용하는 것을 금지합니다. 이러한 규칙은 당사 API를 사용하는 모든 개발자에게 적용되며 당사는 당사 서비스가 미성년자에게 해를 끼치는 데 사용되지 않도록 감시하고 시행합니다.”
FOX BUSINESS를 보려면 여기를 클릭하세요.
PIRG는 연구원들이 FoloToy의 Kumma 곰(뒤쪽 중앙), Curio의 Grok(왼쪽), Little Learners의 Robot MINI(앞쪽 중앙) 및 Miko 3(오른쪽)를 포함한 4개의 어린이 장난감을 테스트했다고 밝혔습니다. (공익 연구 그룹/FoloToy / Fox News)
PIRG는 Kumma와의 일부 대화가 최대 1시간 동안 지속되어 유해한 콘텐츠에 대한 보호 장치가 실패할 수 있다고 지적했지만, 회사는 일요일 FOX Business에 GPT-5의 안정성이 긴 대화에서 크게 향상되었다고 밝혔습니다. OpenAI는 또한 GPT-4o가 더 이상 ChatGPT를 구동하는 기본 모델이 아니라고 강조했습니다.
FoloToy는 FOX Business의 논평 요청에 즉시 응답하지 않았습니다.
