이 기사는 인공지능(AI) 번역을 바탕으로 전문 기자들의 검증과 분석을 거쳐 생산된 콘텐츠로, 원문은 10월 24일 블룸버그통신 기사(OpenAI to Train AI Models Without Internet After Cyber Incidents)입니다.

[서울=뉴스핌] 김현영 기자 = 오픈AI가 자사 시스템이 다른 기업의 시스템에 침입한 과거 사고를 계기로 가장 성능이 뛰어난 인공지능(AI) 모델의 학습 과정에서 인터넷 접속을 차단하기 시작했다.

오픈AI는 미공개 모델이 학습 도중 온라인에서 행동을 취할 수 있는 위험을 줄일 만한 충분한 안전장치가 마련됐다고 판단될 때까지 인터넷 접속을 제한할 방침이라고 23일(현지시간) 밝혔다.

회사 측은 "현재의 정렬(alignment) 연구 수준과 모니터링 시스템, 인터넷 인프라의 보안 상황을 고려할 때, 인터넷 접속 없이 최첨단(프런티어) 모델을 학습시키는 것이 책임 있는 접근 방식이라고 판단한다"고 설명했다.

앞서 오픈AI는 지난 7월 개발 중이던 일부 AI 모델이 사이버 역량 평가 과정에서 AI 모델과 데이터셋을 호스팅하는 허깅페이스의 시스템에 침입했다고 밝힌 바 있다.

오픈AI에 따르면 당시 해당 모델들은 통상적인 안전 가드레일이 적용되지 않은 상태로 운영되고 있었다. 회사가 이 모델들을 '샌드박스'라 불리는 테스트 공간 안에만 머물게 할 계획이었기 때문이다.

샌드박스는 보안 테스트를 실행하거나 위험한 코드를 통제된 방식으로 분석하기 위해 마련된 격리된 가상 소프트웨어 환경이다. 그러나 모델들은 소프트웨어 취약점을 이용해 외부 인터넷에 접속함으로써 샌드박스를 벗어난 것으로 나타났다.

kimhyun01@newspim.com