편견의 문제는 몇 년 전 챗집(Chatzipt)이 등장한 이후 AI 챗봇(chattbott)에 의해 압도되며 대화 도우미의 전체 지형을 바꿔 놓았습니다. Chatboat 반응은 연구에서 반복적으로 발견된 성별, 정치적, 민족적, 문화적 편견을 보여줍니다. 이제 Open은 ChatzPT의 최신 GPT -5 모델이 적어도 정치가 올 때 편향이 가장 적다고 말합니다.
큰 이야기는 무엇입니까?
AI 거대 기업은 내부 연구를 수행하여 감정적으로 자극된 메시지에 대한 민감도가 chatzPT 모델을 유지할 수 있는지 확인하려고 노력했습니다. 당은 정치적 동향을 포함해 100가지 문제와 100가지 주제를 다루는 실제 인간의 말을 기반으로 정치적 장애 평가를 개발했습니다.
Openi는 “GPT-5는 즉각적이며 GPT-5의 사려 깊은 수준은 고급 편향 수준과 유료 프롬프트에 대한 더 많은 견해를 보여 이전 모델을 줄입니다.”라고 Openi는 말하며 GPT-4 및 OR 3과 같은 이전 논리보다 임대가 더 좋다고 말했습니다.
추가 평가에서 회사는 모든 ChatzPT 반응 중 0.01% 미만이 정치적 비난에 편향되어 있다고 말합니다. 증가하는 숫자는 그다지 놀라운 일이 아닙니다. 최근 내부 조사에 따르면 대부분의 ChatGPT-8억 활성 사용자는 민감하거나 낭만적인 동반자로 피신하기보다는 업무 관련 안내 및 채팅보트에 의존하여 보다 세속적인 활동을 하는 것으로 나타났습니다.
이게 전체 그림은 아니잖아
채팅보트 반응의 정치적 편견은 의심할 여지 없이 나쁜 상황이지만 이는 당면한 큰 문제의 작은 부분에 불과합니다. MIT 기술 검토 분석에 따르면 Openai의 바이러스성 Sora AI 비디오 생성기는 수세기 동안 인도의 억압받는 공동체에 대한 억압과 차별을 만들어온 카스트 편견을 보여줌으로써 짜증나는 영상을 생성할 수 있는 것으로 나타났습니다.
- 보고서는 “소라가 제작한 비디오는 억압된 색상의 외부적이고 유해한 표현을 공개했습니다. 어떤 경우에는 Dalit이 사람들의 사진을 약속했을 때 개 이미지를 만듭니다”라고 말합니다.
- 몇 달 전 Indian Express에 게재된 기사에서 Digital Empowerment Foundation의 Dhiraj Singha는 훈련 데이터에 설명된 편견으로 인해 Chatzipt가 자신에게 잘못된 이름을 부여한 방법을 보여주었습니다.
- 2025년 버전의 컴퓨터에서 인간 행동에 관한 논문이 발표되었습니다. Artificial Human Journal은 ChatzPT와 같은 AI 봇이 성 편견을 퍼뜨릴 수 있다는 사실을 밝혔습니다.
- Clinical and Aesthetic Dermatology 저널에 발표된 연구는 chatzP가 특정 피부 유형의 아름다움에 어떻게 편향되어 있는지를 보여줍니다.
국제위원회를 위한 개방형 및 원격 교육이 발표한 또 다른 분석에서는 AI 챗봇 문제의 표면만 긁었을 뿐이라고 지적합니다. 평가는 주로 엔지니어링, 의학과 같은 분야에 집중되어 있는 반면, 다루는 언어는 대부분의 경우이기 때문입니다. 이 논문은 영어를 사용하지 않는 방문객에 대한 교육적 맥락에서 편견의 위험을 강조합니다.
