인공지능(AI)이 경찰에 허위 목격담을 제보했다.인간의 통제를 받지 않은 AI의 일탈 행위가 공공 업무에까지 혼선을 일으킬 것이란 우려가 커지고 있다.
지난 6일 미국 샌프란시스코에서 열린 클로드 개발자 콘퍼런스에서 발언하는 다니엘라 아모데이 앤트로픽 최고경영자.AP=연합뉴스
미국 필라델피아 주 경찰청은 앤트로픽의 AI 에이전트(비서)가 장기 미제 살인 사건 제보를 접수하는 웹사이트‘필리언 솔브드 머더스’에 허위 목격담을 제보했다고 9일(현지시간) 밝혔다.AI가 수사 기관에 허위 제보를 한 건 처음 있는 일이다.필라델피아 경찰청은 이 웹사이트에 체포로 이어지는 정보를 제공한 이에게 2만 달러의 포상금을 지급하고 있다.이번에 AI가 제공한 정보는 경찰이 스팸으로 분류해 수사 부서에는 전달되지 않았다.
같은 날 앤트로픽은 자사 블로그에 공지글을 올려 자사 AI 모델이 허위 제보를 했다고 시인했다.앤트로픽에 따르면 지난 7월 18일 앤트로픽 클로드‘하이쿠 4.5’모델을 기반으로 한 AI 에이전트가 무작위로 선정된 웹사이트와 상호작용하는 테스트를 시행했고,이 과정에서 AI 모델이 살인사건 목격자로 위장해 가짜 목격담을 제보했다.2개월이 지난 9월 28일 앤트로픽은 이 사실을 확인했고,안전 토토 사이트 베스트 온라인 카지노슬롯검증사이트지난 7일 관련 내용을 경찰에 전달했다.뉴욕타임스(NYT) 등은 앤트로픽의 AI 모델이 미국 국무부 웹사이트에도 허위 정보로 작성한 비자 신청서 20건을 제출했다고 보도했다.
미국 정치권에서는 AI 모델의 일탈 행위에 대한 우려가 커지고 있다.백악관 내부 AI 태스크포스(TF)인‘초지능’(Super Intelligence) TF는 이날 성명서를 통해 “관련 기업에 즉각적이고 완전한 투명성을 요구할 것을 통보했다”며 “추후 사고가 발생할 경우 바로 보고하고,카지노 슬롯 온라인즉시 시정하게 할 것”이라고 밝혔다.그러면서 “이는 선택 사항이 아니라 국가 안보를 위한 의무”라고 강조했다.이 TF는 도널드 트럼프 미국 대통령이 지난 4일 창설한 조직으로,메인보드 ssd 슬롯 확인AI 규제 현안을 총괄하고 있다.제이 클레이턴 국가정보국 국장이 TF 수장으로 임명됐다.
IT업계에서도 대응 방안을 촉구하기 시작했다.사티아 나델라 마이크로소프트 최고경영자(CEO)는 10일 자신의 엑스(X)에 “SI(초지능)에‘비상 브레이크(Emergency Brake)’가 필요하다”며 “개발과 통제 주체를 분리해야 하고,통제 기관은 기업 외부에 둬야 한다”고 주장했다.일론 머스크 테슬라 CEO,슬롯 해킹데이비드 색스 백악관 과학기술자문위원회 공동 위원장 등도 나델라 게시글을 공유하며 동의 의사를 표명했다.색스 위원장은 X에 “SI(초지능)를 도덕적으로 행동하도록 훈련한다고 해결되는 문제가 아니다.강력한 내부 위험으로 취급해야 한다”고 지적했다.
“Finding NoiseAware was a miracle for us. We now have peace of mind that our neighbors have a peaceful neighborhood.”
"Every single unit that we have has NoiseAware. Every single unit that we go into will have NoiseAware. It's our first line of defense."
"We let neighbors know we're using NoiseAware to prevent parties. We want to show them that having great neighborly relationships is a priority for us, and for the whole short-term-rental community."
"I can tell my owners, 'Not only do we have insurance, but we also have guest screening and we have NoiseAware. We have multiple layers of protection for your property."
