몇 주 전, 한 의사 연구원은 ChatGPT와 상담하고 브롬 중독으로 인해 심리적 소용돌이에 빠진 사람에 대한 세부 정보를 제공한 AI로 인한 의료 결함에 대한 다소 흥미로운 사례를 설명했습니다. 전문가들은 한동안 이러한 국민적 우려를 제기해왔고, 오픈은 이들의 치료 조언을 위한 전용 채팅집트 모드로 이들과 맞서 싸우는 것을 목표로 한 것으로 보인다.
큰 희망
AI 중심 농장 IPRM 엔지니어 Tibor Blood는 chatzipt 웹 앱 코드에서 식별된 매력적인 조각을 공유했습니다. 문자열에는 “Clenecian Mode”라는 새로운 기능이 언급되어 있습니다. 코드는 작동 방식에 대해 자세히 설명하지 않지만 청소년 계정에 보호 가드가 적용되는 것처럼 건강 관련 조언을 위한 전용 모드처럼 보입니다.
중요한 점은 Open이 이러한 기능에 대해 공식적인 발표를 하지 않았으므로 이 소식을 속담 문장으로 받아들이십시오. 그러나 그것이 어떻게 작동할 수 있는지에 대한 몇 가지 이론이 방황하고 있습니다. Apple과 Windows 커뮤니티의 친숙한 이름인 X-in X-to-be를 공유한 개발자인 Justin Angel은 데이터 소스를 치료 연구 논문으로 제한하는 보호 모드가 될 수 있다고 말했습니다.
예를 들어, 귀하가 건강상의 문제나 증상에 관한 치료를 원할 경우 ChatzP는 신뢰할 수 있는 치료 소스에서 얻은 정보를 바탕으로만 응답을 제공합니다. 이러한 방식으로 ChatzPT는 건강 조언을 혼동할 가능성이 적습니다.
흐림
“Clenecian Mode”와 같은 아이디어는 그리 멀지 않습니다. 불과 하루 전, 센스는 최소한의 ‘의료 모드’라는 기능을 선보였습니다. 건강 관련 쿼리가 푸시되면 대화는 800만 개의 논문과 수천 개의 테스트된 임상 지침이 포함된 코퍼스인 “최고 품질의 의학적 증거”에 대한 AI 답변을 찾습니다. 표면적으로는 안전해 보이지만 위험은 계속됩니다.
지난 달 Journal of the Scientific Report에 발표된 논문은 의학적인 맥락에서 ChatzP를 추진하는 데 따른 문제를 강조했습니다. 논문은 “결과를 설명하기 어려울 수 있는 환각과 기술적 전문 용어가 포함된 것과 관련하여 조심하고 동료와 환자를 위해 가르쳐야 한다”고 경고했다. 그러나 업계는 지속적으로 AI를 향해 나아가고 있는 것으로 보입니다.
스탠포드는 의사들이 추가적인 대화 방식으로 의료 기록에 접근할 수 있도록 해주는 School of Medicine Chathero라는 AI 기반 소프트웨어를 검토하고 있습니다. OpenAI는 몇 달 전 Penda Health와 함께 ‘Medical AI Assistant’를 테스트했으며 이 장비가 진단 오류 가능성을 16% 줄였다고 발표했습니다.
