지금까지 있었던 일: 캘리포니아는 마침내 AI 동반자 챗봇을 통제하기 위한 조치를 취하고 있습니다. 주지사 뉴스(Governor News)는 최근 새로운 법안에 서명하여 이를 수행하는 미국 최초의 주로 만들었습니다.
- 2026년부터 Meta, Character AI, Replica와 같은 회사는 특히 어린이와 약한 사용자를 보호하는 경우 엄격한 보호 규칙을 따라야 합니다.
- 이 봇과의 불안한 대화 끝에 사망한 일부 십대를 포함하여 가슴 아픈 이야기를 앞두고 있었습니다.
- 이제 법에 따르면 이러한 회사는 오랜 세월에 걸쳐 검증되어야 합니다. 누군가가 자기 손실에 대해 이야기할 때 그는 계획을 세워야 하며 실제 사람이 아닌 AI와 채팅하고 있음을 결정해야 합니다.
중요한 이유: 현실화하자면, 여기서 가장 큰 관심사는 이러한 AI 채팅이 어떻게 사람들의 우정을 복제할 수 있을 만큼 훌륭해졌는가입니다. 특히 외롭거나 약하다고 느끼는 사람들의 경우 더욱 그렇습니다.
- 우리는 자기 상실, 잘못된 정보 및 착취와 연관되어 있음을 확인했습니다. 이제 누군가가 조치를 취해야 할 때입니다.
- 이런 일이 전혀 발생하지 않습니다. 연방 정부도 이러한 회사가 어떻게 설계하고 돈을 벌고 있는지 살펴보고 있습니다.
내가 왜 관심을 가져야 하는가: 당신이 부모라면 이것은 큰 일입니다. 이 법은 이러한 대화가 자녀에게 어떻게 연락할 수 있는지에 대한 유지 관리에 관한 것입니다.
- 이는 더 많은 투명성과 보호, 희망을 의미합니다. 시작하기 전에 제조나 위험한 대화를 중단합니다.
- 우리 모두에게 이것은 이러한 거대 기술 기업이 자신이 만든 것에 대해 실제로 책임을 지도록 보장하는 큰 단계입니다.
그런 다음 핵심은 다음과 같습니다. 그러면 여기서는 어떻게 되나요? 좋아요, 이것은 단지 캘리포니아 이야기가 아닙니다. 연방 정부는 이미 이러한 대규모 기술 회사를 감시하여 이들이 어린이 보호에 관한 규칙을 준수하고 있는지 확인하고 있습니다.
다른 모든 주의 공무원들이 이를 면밀히 관찰하고 있을 것이라고 확신할 수 있습니다. 이 새로운 법은 쉽게 국가의 다른 지역의 모델이 될 수 있으며 국가적 품질을 설정합니다. 이 AI 동반자는 AI 동반자가 어떻게 구성되어 있는지, 앞으로 누가 지켜볼 것인지에 대한 룰북을 완전히 다시 작성할 수 있습니다.
