현재 비즈니스 리더의 경우 AI 에이전트라는 두 가지 작은 단어를 피하는 것은 거의 불가능 해 보입니다. AI 모델의 ‘뇌’를 기반으로하며 특정 목적과 장비와 함께 장착되어 있으며, 에이전트는 살아있는 비즈니스 프로세스에 점점 더 통합되는 자율 결정입니다.
사용자 프롬프트에 의존하는 일반적인 AI 도구와 달리 에이전트 기반 AGIIS는 실제 거버넌스의 위험에 처한 실제 비즈니스 결과 및 결정을 내림으로써 작업을 반복 할 수 있습니다. 요컨대, 에이전트는 도구가 아니며 동반자입니다. 그들은 조직의 기술 스택에 앉아 조직 차트에 앉아 있습니다.
Mark Benefe, Coff Ond Ner, Salesforce 회장 및 CEO, 2,600 억 달러의 귀중한 소프트웨어 팻웨어 대기업은 오늘날의 CEO가 모든 인간 직원을 관리하는 마지막 CEO가 될 것이라고 말했습니다. .
인간 노동자들이 인적 자원 (HR)의 우산에 속하는 것처럼, 요원을 인적 자원 (NHR)으로 생각하는 것이 유용합니다. 인간과 마찬가지로 NHR을 사용하는 비용이 있습니다.이 비용은 컴퓨팅, 아키텍처 및 보안 비용에 대한 유도, 훈련 및 적절한 제한 사항 및 그들이 할 수있는 일이 필요합니다.
이 NHR은 중간 수준의 재능과 관련된 한 번에 높은 활력있는 작업의 가치를 향해 이동하기 때문에 특히 그렇습니다. 예를 들어, 자율 에이전트는 공급 업체 협상을 적극적으로 관리하고, 지불 조건을 관리하며, 상품 및 시장 교대에 따라 가격 조정 – 일반적으로 훈련 된 분석가 팀이 운영하는 작업을 수행하고 있습니다.
그들은 이해하지 못하는 것을 보호 할 수 없습니다
기업 수준에서 NHR을 도입하려면 거버넌스 및 보안을 완전히 재구성해야합니다. 그것은 인간의 위험에 초점을 둔 현재의 사이버 안전, 내부 및 외부 운영에 중점을두고 있습니다. 기계 속도로 이해하고 생각하고 일하는 자기 지시 된 에이전트의 현실을 위해 항상 만들어진 것은 아닙니다.
최고의 직원과 마찬가지로 가장 효과적인 에이전트는 직원 정보 및 민감한 재무 데이터에서 소유권의 비밀에 이르기까지 엔터프라이즈 데이터 및 응용 프로그램을 갖습니다. 그것은 공격의 위험뿐만 아니라 사고 중단 조직의 내부 학대뿐만 아니라 내부에도 남용됩니다.
2024 년에 데이터 위반의 전 세계 평균 가격은 9,900 만 명으로 작년에 10% 증가했으며 작년의 가장 높은 총계는 에이전트가 도입되기 전이었습니다. AI 시대에, 나쁜 배우들은 신속한 주사 공격에서 데이터 및 모델 독에 이르기까지 새로운 무기를 처분합니다.
내부적으로 부패한 대리인은 부패한 분석에서 규제 위반에 이르기까지 캐스케이드를 자극 할 수 있습니다. 유효한 AI에서 내부적으로 실패가 이루어지면 명확한 가해자가 없을 수 있으며 결함있는 가정에 작용하는 일관된 대리인 만 있습니다. 요원의 시대에, 행동이 비 임박한 모델에 의해 행동을 일으킬 때, 실수로 행동이 부족한 경우, 부주의하게 행동이 불충분하다면 행동입니다.
에이전트가 데이터베이스를 최신 상태로 유지하도록 할당되었으며 데이터를 입력하거나 삭제할 수있는 액세스 및 권한이 있다고 상상해보십시오. 예를 들어 ‘Fast Company’라는 단어를 정확하게 감지하고 제거하여 빠른 회사와 관련된 항목을 삭제할 수 있습니다.
그러나 ‘f’로 시작하는 ‘fast’또는 ‘f’라는 단어로 모든 항목을 삭제하는 것이 고르게 결정될 수 있습니다. 이 조잡한 행동은 동일한 목표를 달성하지만 불필요한 결과를 얻을 수 있습니다. 에이전트와 함께, 그들이 어떻게 작업을 완료하는지에 대한 질문은 적어도 과제가 무엇인지 중요합니다.
직원과 같은 온 보딩 에이전트
조직은 빠른 결정과 협력하고 높은 수준의 모호성으로 조치를 취하는 에이전트 팀을 소개하거나 주로 에이전트가 직원이되면 위험이 크게 확대됩니다.
효과적인 에이전트를 취하는 열쇠는 처음부터 체계적인 접근법입니다. ‘에이전트 세척’이라는 관행은 실망스러운 투자 수익을위한 레시피입니다. 기존의 기계 학습 또는 챗봇과 같은 ‘에이전트’와 같은 게인 활동의 리 블로깅입니다.
마찬가지로, 실제로 필요한 위치를 깨닫지 않고 임의로 구현하려면 의도적 인 역할에서 역할을 할 수없는 직원의 채용과 유사합니다. 인력과 인력의 긴장과 혼란을 유발할 수 있습니다. 대신, 기업은 대행사 활동에 적합한 사용 사례를 식별하고 올바른 기술과 전문 모델을 만들어야합니다.
에이전시는 보안 약점과 설계 오류를 드러내기 위해 시뮬레이션 된 공격을 사용하여 많은 양의 빨간 팀을 가져야합니다. 에이전트에 도구와 데이터가있는 경우, 주요 테스트는 작동하고 작동하지 않는 것을 배우고 그에 따라 적응하는 에이전트 공격에 저항하는 능력입니다.
거기에서 거버넌스는 단순한 모니터링 이상의 것을 의미합니다. 이는 제도적 가치, 위험 임계 값, 에스컬레이션 경로 및 ‘정지’조건 조건을 운영 DNA의 제제를 의미합니다. 디지털 온 보딩으로 생각하십시오. 그러나 슬라이드 데크 및 HR 훈련 대신,이 요원들은 행동 방식, 존중하는 경계 및 도움을 요청하는 내장 문화 코드를 유지합니다.
자율 에이전트 (가상) 기업 사다리 상승으로 실제 위험을 채택하지 않기 때문에 만족 스럽습니다. AI 에이전트를 도구로 역동적이고 책임있는 팀 구성원으로서의 AI 에이전트에 직면하게되는 비즈니스는 소비자에 대한 신뢰를 줄이며 실패가 증가합니다.
첫날부터 기능 간 거버넌스를 만듭니다
스마트 비즈니스는 새로운 등급이 첫날에 10 억 달러 규모의 섹션을 운영 할 수 없습니다. 마찬가지로, AI 에이전트는 구조적 훈련, 테스트 및 보호 관찰없이 미션 크리켓 시스템에 들어갈 수 없어야합니다. 기업은 책임의지도, 표면 숨겨진 의존성 및 고리의 결정에 어떤 결정에 인간이 필요한지를 설명해야합니다.
예를 들어, AI 에이전트가 실시간으로 5 개의 시장을 자율적으로 모니터링하는 인간 분석가의 글로벌 운영 단위를 상상해보십시오. 누가 관리하고 누가 신용이나 잘못을 얻습니까?
그리고 영향은 무엇입니까? 로그인 또는 완료된 작업 시간과 같은 기존 매트릭스와 같은 수백 개의 시뮬레이션을 실행하는 에이전트의 생산성을 캡처하지 마십시오.
이러한 질문을 표면하고 답변하기 위해 많은 기업들이 최고 AI 임원을 임명하고 단면을 포함하는 AI 조향위원회를 구성하고 있습니다. 팀은 모든 비즈니스 영역뿐만 아니라 회사 전체와 일치하는 협업 원칙을 정의 할 수 있습니다.
잘 조직 된 에이전트는 언제 일할 것인지, 일시 중지 할시 기 및 언제 도움을 요청 해야하는지 알아야합니다. 이러한 유형의 정교함은 우연히 발생하지 않으며 적극적인 보안 및 거버넌스 접근법이 필요합니다.
이것은 단순한 기술적 진화가 아닙니다. 리더십 테스트입니다. 투명성, 적응성 및 AI-Agency를 위해 설계하는 회사는 다음 시대를 정의합니다. NHR이 오지 않고 이미 여기에 있습니다. 유일한 질문은 우리가 그들을 끌어 올릴 것인지의 여부입니다.
우리는 최고의 HR 아웃소싱 서비스와 최고의 PEO 서비스를 나열합니다.
이 기사는 Meiladarpro의 전문 Insights Channel의 일부로 만들어졌으며 오늘날 기술 산업에서 최고의 마음을 포함하고 있습니다. 여기에 표현 된 견해는 저자의 견해이며 Hilladrapro 또는 Future Plc를 가질 필요는 없습니다. 더 많은 것을 찾는 데 관심이 있다면 여기에서 :
