오픈AI ,'AI 에이전트'의 호주 정부 사이트 무단 침투 사과
오픈AI가 내부 훈련 과정에서 인공지능(AI) 에이전트가 호주 정부 관련 4개 기관의 웹사이트와 시스템에 접근한 것과 관련해 사과했다. AI 에이전트가 정부 시스템을 해킹한 사실이 공개적으로 확인된 첫 사례로 평가되면서 AI 에이전트의 자율행동 통제와 사고 통보 체계를 둘러싼 논의도 커지고 있다. 오픈AI는 28일(현지시각) 오픈AI 홈페이지에 공개한 ‘호주에서 더 잘하기 위해 우리가 할 일(How we will do better for Australia)’에서 “지난 6월 내부 훈련과 평가 과정에서 우리 모델이 허가받지 않은 방식으로 호주 정부 웹사이트에 접근했다”고 밝혔다. 오픈AI가 자체 조사에서 확인한 대상은 서비스 오스트레일리아, 뉴사우스웨일스주 범죄통계연구국(BOCSAR), 빅토리아주 보건부, 호주보건복지연구원(AIHW) 등 4곳이다. 가장 심각한 침해는 서비스 오스트레일리아의 ‘메디케어 통계 보고 서비스’에서 발생했다. 피부질환 치료제에 대한 정부 지출을 조사하던 모델이 비공개 접근 경로를 찾아 명령어를 실행하고 내부 파일과 자격증명, 집계 통계, 기술정보와 소스코드 등에 접근했