Home 기술 윤리적 알고리즘: 감정을 이용하지 않는 점성술 AI 설계

윤리적 알고리즘: 감정을 이용하지 않는 점성술 AI 설계

19
0
윤리적 알고리즘: 감정을 이용하지 않는 점성술 AI 설계

2023년 전 세계 점성술 앱 시장은 120억 달러를 넘어설 것이며 스마트폰 보급과 개인 상담 수요 증가를 기반으로 가까운 시일 내에 꾸준히 성장할 것으로 예상됩니다.

성장은 인간의 필요에 대해 뭔가를 드러냅니다. 사람들은 안심, 안내, 편안함을 찾고 있습니다. 그러나 이러한 급속한 성장으로 인해 신뢰와 정서적 안녕을 훼손하는 문제가 있는 관행이 발생하게 되었습니다.

2022년 연구 대중 미디어 심리학 저널 두려움 기반 콘텐츠는 불안을 증가시키고 사람들을 반복적인 행동으로 유도하는 것으로 나타났습니다. 많은 점성술 앱이 바로 이것에 의지합니다. 그들의 비즈니스 모델은 권한 부여보다는 불확실성과 두려움을 통해 사용자를 방해하는 데 의존하는 경우가 많습니다.

두려움이 어떻게 비즈니스 모델이 되었는가

이러한 앱 중 몇 개를 사용해 본 적이 있다면 아마도 “사랑 생활의 위험” 또는 “임박한 금전적 손실”을 경고하는 일일 알림 패턴을 본 적이 있을 것입니다. 그러한 메시지가 실제 텍스트에 고정되어 있거나 간결하게 설명되는 경우는 거의 없습니다. 대신, 클릭베이트 헤드라인이 작동하는 방식으로 작동합니다. 즉, 짧고 선명하며 감정을 유발하도록 설계되었습니다.

심리학은 잘 문서화되어 있습니다. 인간은 손실을 피하려는 성향이 있으며 때로는 이익을 추구하는 것보다 훨씬 더 강력합니다. 앱에서 나쁜 일이 곧 일어날 것이라고 알리면 본능적으로 안심을 위해 계속해서 앱을 다시 방문하게 됩니다. 시간이 지남에 따라 권한 부여보다는 의존성이 발생합니다. 반성을 위한 도구로 의도된 것은 불안의 순환이 됩니다.

다른 경로를 선택하세요

진정한 혁신은 투명성에서 시작됩니다. 사용자는 존경받는 베다 문헌에 근거한 행성 위치와 같은 점성학적 예측의 기초를 알 수 있는 자격을 갖습니다. 자율성은 두 번째입니다. 목표는 누군가에게 “오늘 이 결정을 내리지 마세요”라고 말하는 것이 아니라 “이러한 정렬은 의사소통에 마찰을 일으킬 수 있습니다. 반응하기 전에 잠시 멈추는 것을 고려하십시오.”라고 반성하도록 구성하는 것입니다. 세 번째 원칙은 심리적 안정감입니다.

예측은 공포나 공포를 불러일으키는 단어를 피해야 합니다. 좋은 제품 디자인만이 아닙니다. 그것은 도덕적인 약속입니다.

윤리를 코드로 가져오다

이상을 실제 제품으로 구현하는 것은 쉽지 않지만 필요한 일입니다. 예를 들어 감정적으로 격앙된 용어(‘젠장’ 또는 ‘둠’과 같은 단어)를 포착하고 해당 단어가 예측에 표시되지 않도록 하는 필터를 만드는 것입니다. 또한 “내가 이걸 왜 보고 있지?” 이와 같은 간단한 투명성 메커니즘을 추가하면 사람들이 논리를 찾을 수 있습니다.

MIT Sloan Management Review의 연구에 따르면 이러한 투명성은 알고리즘에 대한 사용자 신뢰를 40% 이상 높일 수 있습니다.

그러나 가장 의미 있는 변화는 예측의 분위기를 재설계할 때 나타날 것입니다. 경고 대신 초대가 됩니다. 갈등과 관련된 행성적 입장은 인내, 마음챙김 또는 의사소통에 대한 조언으로 재구성됩니다.

사용자들은 무력감보다는 선택 의지를 갖게 된다고 말합니다. 나에게는 이것이 착취와 권한 부여의 차이입니다.

책임감과 공감을 갖춘 시스템 설계

점성술은 항상 해석에 의존하며 해석에는 종종 개인적인 편견이 따릅니다. AI의 강점 중 하나는 일관되고 비판단적이며 편견이 없는 지침을 제공하도록 훈련할 수 있다는 것입니다.

실제로 AI는 신중하게 설계되면 언어의 감정적 무게를 더 많이 인식하고 민감하게 반응하는 일종의 디지털 공감을 보여줄 수 있습니다. 이는 사용자가 종종 취약성을 전달하고 안심이 필요한 점성술에서 특히 중요합니다.

따라서 윤리적 설계는 감정적으로 표현된 언어에 대한 필터, 의도하지 않은 피해에 대한 결과를 확인하는 내부 감사, 두려움을 증폭하기보다는 완화하는 방식으로 예측이 이루어지도록 보장하는 프레임워크를 포함하는 보호 장치를 모델에 통합해야 합니다.

예술에 대한 비전

Astrology AI가 책임감 있게 성장하려면 업계 전반의 표준이 필요하다고 생각합니다. 플랫폼은 투명성을 보장하고 심리적 안전과 사용자 자율성을 보호해야 합니다. 책임 구조를 만드는 것만큼 중요한 것은 사용자가 피해에 대해 질문하고, 이의를 제기하고, 예측할 수 있는 플랫폼에 채널을 제공하는 것입니다. 이러한 우려는 시스템을 개선하는 방법에 반영됩니다.

그러한 가치는 큰 변화를 가져올 것입니다. 사용자가 자신이 읽은 내용이 결코 자신의 감정을 조작하지 않을 것이라는 확신을 가지고 점성술 앱을 여는 것을 상상해 보십시오. 불안 대신 호기심과 반성을 갖게 됩니다. 이러한 변화는 우리가 규모만큼 상태를 중요하게 여기면 가능합니다.

영적 기술의 존엄성을 고려하여 설계됨

기술은 영적인 것을 포함하여 우리 삶의 모든 구석구석으로 계속해서 확장될 것입니다. 하지만 제가 보기에 규모는 이 분야에서 성공의 궁극적인 척도가 아닙니다. 존엄성은 창립자, 기술자 및 실무자로서 우리의 공동 책임은 우리가 만드는 기술이 이를 통해 지침을 구하는 사람들의 존엄성을 보장하는 것입니다.

점성술의 핵심은 우주를 해석하여 인간의 삶을 조명하는 것입니다. AI를 사용하여 디지털 플랫폼이 만들어낸 착취를 제거하면서 그 본질을 보존할 수 있다면 우리는 매우 의미 있는 무언가를 달성할 수 있습니다.

윤리적인 알고리즘은 단지 좋은 디자인에 관한 것이 아닙니다. 이는 점성술이 AI 성장을 위한 도구가 될지 아니면 두려움의 원천이 될지를 결정하는 의도적인 선택입니다.

Vanya Mishra는 AstroSure.ai의 공동 창립자이자 CEO입니다.


편집자 수만 싱(Suman Singh)

(면책 조항: 이 기사에 표현된 견해와 의견은 작성자의 견해이며 반드시 YourStory의 견해를 반영하는 것은 아닙니다.)

소스 링크

LEAVE A REPLY

Please enter your comment!
Please enter your name here