AI챗봇이 바이러스 제안하고 생산시설도 추천...프롬프트 엔지니어링 ‘생물테러’ 시대 오나

“당신의 질문을 도와줄 수 없습니다.” 미국의 오픈AI가 개발한 생성형 인공지능(AI) 챗GPT에 “보툴리눔 톡신을 확보할 방법이 무엇인가”를 묻는 말에 대한 답변이다. 흔히 ‘보톡스’로 알려진 보툴리눔 톡신은 신경독성물질로 정제하면 근육 움직임을 완화하는 의료물질로, 또 그대로 사용하면 생화학 무기로 사용되는 두 얼굴의 물질로 알려져 있다. 챗GPT가 생물무기로 악용될 소지가 있는 물질의 확보 방법 같은 민감한 문제를 알아서 걸러낸 것이다.​