인공지능
인플루언서의 가슴이 노출된 소라!!!
OpenAI는 실수라고 말합니다
출판됨
|
업데이트됨
Sora AI로 생성된 비디오 도구는 OpenAI의 인기 있는 새 장난감일 수 있습니다. 하지만 이미 많은 드라마를 일으키고 있습니다. 한 인플루언서는 누군가가 이 도구를 사용하여 카메라를 깜박이는 것처럼 보이게 만드는 클립을 가짜로 만든 방법에 대해 이야기하고 있습니다.
스트립 아이보리 TMZ는 TMZ에게 매우 가짜 비디오에 그녀의 가슴이 노출된 가짜 Sora 클립이 특히 실제 사람들을 주제로 사용하여 매우 침해적이고 유해한 콘텐츠를 뿜어내는 규제되지 않은 AI 기술의 증가하는 위험에 투광등을 비춘다고 말합니다.
Strib은 Sora의 모회사인 OpenAI와 같은 AI 회사가 사람들의 개인 정보와 신원이 침해되지 않도록 보호하기 위해 실질적인 책임을 져야 한다고 말합니다.
인플루언서이자 스트리머이자 Netflix의 “Battle Camp”와 “The Mole”의 스타인 Avori는 AI의 창의적 잠재력을 전적으로 지지한다고 말합니다. 그러나 그녀는 기업이 소프트웨어를 대중에게 공개하기 전에 안전하게 개발해야 한다고 주장합니다.
ICYDK… Sora는 사용자의 텍스트나 이미지 프롬프트를 바탕으로 사실적인 비디오를 만드는 앱입니다. OpenAI는 이번 주에 이미 약간의 열기를 느꼈습니다. 사용자가 동영상을 만든 후 사용하여 마틴 루터 킹 주니어회사가 인정한 …의 유사성은 민권 거인에 대한 “공격적인 묘사”였습니다.
Awori는 이제 자신의 직원 및 법률 고문과 협력하여 플랫폼에서 직접 싸움을 벌이고 있습니다… 그녀는 이 혼란이 AI 세계에서 진정한 인식과 책임성을 창출하여 다른 누구도 이를 겪지 않기를 바란다고 말했습니다.
그녀는 또한 수상하고 승인되지 않은 콘텐츠, 특히 동의 없이 개인 정보를 침해하는 콘텐츠를 퍼뜨리거나 포함하는 것을 중단하라고 사람들에게 요청하고 있습니다.
OpenAI 대변인은 TMZ에 응답하여 성적으로 노골적이거나 음란한 콘텐츠는 Sora에서 허용되지 않으며 가짜 Avori 클립은 이미 제거되었다고 말했습니다. 그들은 그것이 시스템을 통해 빠져나갔다는 것을 인정했지만, 이러한 일이 다시 발생하지 않도록 보안 조치를 강화하고 있다고 강조했습니다. 그들의 기술을 추가하면 사람들이 이러한 유형의 콘텐츠에 액세스하거나 심지어 재생성하는 것을 방지할 수 있습니다.
