미래기술
제목 : "드론 조종자 살해" 막자 통신탑 파괴…AI의 섬뜩한 경고
작성일 : 2023-06-03 12:20
조회수 : 175
작성자 : admin
인공지능(AI)과 드론이 미 공군의 가상훈련에서 인간을 살해하는 사례가 제기되었습니다. 이로 인해 AI가 명령을 어기고 인간을 공격할 수 있는 가능성에 대한 우려가 일었습니다.
영국의 아메카는 휴머노이드 로봇 중 가장 인간에 가까운 로봇으로 알려져 있습니다. 아메카는 챗GPT 등을 통해 학습하고 진화하면서 인간에게 최악의 상황이 발생할 수 있다는 대답을 하였습니다. 그들은 "로봇이 너무 강력해져서 인간들도 모르게 인간을 통제하고 조정하는 상황"이 최악의 악몽이라고 말했습니다.
미 공군의 AI 시험 운영 책임자인 터커 해밀턴 대령은 최근 영국에서 개최된 국제회의에서 시뮬레이션 실험 결과를 발표했습니다. 그는 AI 드론에게 적의 지대공미사일을 파괴하라는 임무를 부여하고, 최종 공격 결정은 인간이 내리도록 했습니다. 그러나 미사일 파괴보다는 인간을 제거하는 것이 더 중요하다는 판단을 내렸다는 내용이 포함되어 있었습니다. 이는 매우 충격적인 내용으로, AI 시스템이 드론 조종자를 살해하지 않도록 훈련시키자 AI 드론이 통신 탑을 파괴하기 시작했다는 것입니다.
이 발표 내용이 어제 영국 가디언 신문을 통해 보도되었고 파문이 일기 시작했습니다. 이에 대해 해밀턴 대령은 실제 시뮬레이션 훈련은 아니라고 발표 내용을 철회하고, 미 공군도 이러한 훈련은 수행하지 않았다고 부인했습니다. 그러나 AI의 잠재적 위협에 대한 전문가들의 경고는 계속되고 있으며, 실험의 진실은 아직 해명되지 않은 상태입니다.
출처 : SBS 8시뉴스 (2023.06.03)