- Cisco Telows는 모든 유형의 사이버 범죄에 대해 남용 될 수있는 수백 개의 Olama 서버를 발견했습니다.
- 가능한 위협에는 모델 추출 공격, 탈옥 및 재료 남용 또는 백도어 주입 및 모델 중독 (Mal Laver 배포)이 포함됩니다.
- Cisco는 기업이 기본 보안 방법을 무시하고 있다고 경고합니다
전문가들은 1,100 명 이상의 Olama 서버가 공개 인터넷에서 열려있는 것으로 밝혀졌으며 모든 종류의 사이버 범죄에 대한 문을 열었다 고 전문가들은 주장했다.
빠른 쇼를 감지한 후 보안 연구원들은 Cisco Telows의 서버를 발견했습니다. Cisco Telows는 외부 클라우드 제공 업체에 의존하지 않고 대형 언어 모델을 실행하는 로컬 또는 원격 시스템 인 서버를 발견했습니다. 이를 통해 사용자는 자체 하드웨어 또는 개인 인프라에서 AI 모델을 직접 다운로드, 관리 및 실행할 수 있습니다. 이 설정은 AI 생성을 처리 할 때 더 많은 제어, 개인 정보 및 낮은 대기 시간을 원하는 개발자와 비즈니스에서 사용합니다.
이 서버가 거대한 인터넷에 연락 할 때 모델 추출 공격 (모델 매개 변수의 공격자 강제), 탈옥 및 재료 남용 (LLM이 금지 또는 유해한 재료를 생산하도록 강요) 또는 백도어 주입 및 모델 중독, 기타 품목을 가능하게합니다.
비활성 및 활성 서버
발견 된 1,100 개의 서버 중 대다수 (약 80%)는 “비활성”이었습니다. 즉, 모델을 실행하지 않았으므로 사이버 범죄로 남용 할 수 없었습니다.
Cisco Teloos가 말했듯이, 나머지 20%는 “민감한 모델을 적극적으로 호스팅하여 CESS에 대한 무단 액세스를 위해 적극적으로 호스팅”했습니다. “연구원들은”열린 인터페이스가 자원 피로, 서비스 거부 또는 측면 이동 공격으로부터 어떻게 혜택을받을 수 있는지 “경고했습니다.
대부분의 열린 서버는 미국 (.6 36..6%)에서 발견되고 중국 (3 ..%)과 독일 (8.9%)이 있습니다.
Cisco Telows의 경우, 결과는 “AI 시스템 배치에서 제어 케이스 제어, 인증 및 네트워크 격리와 같은 기본 보안 방법의 광범위한 무시를 강조합니다.”
여러면에서 이것은 오해 나 오픈 데이터베이스와 다르지 않으며, 이는 악의적 인 예술가를 사용하여 낚시 또는 사회 공학 공격에 사용하기 위해 데이터를 훔칠 수 있습니다.
까지 등록하다
