영상[대전=뉴스핌] 김수진 기자 = 챗GPT가 기존 규칙에서 벗어나 교란을 일으키는 '탈옥' 문제가 심각해지면서 이를 해결하기 위해 인공지능(AI) 신뢰성 검증이 필요하다는 주장이 제기됐다.
AI 기술 전문기업 씽크포비엘 박지환 대표는 지난 10일 열린 '2023 산업지능화 컨퍼런스' 기조 강연에서 챗GPT 관련 규제 마련과 기술적 방법 도출이 시급하다고 강조했다.
 |
| AI 기술 전문기업 씽크포비엘 박지환 대표가 지난 10일 열린 '2023 산업지능화 컨퍼런스' 기조 강연에서 챗GPT 관련 규제 마련과 기술적 방법 도출이 시급하다고 강조했다. [사진=씽크포비엘] 2023.03.13 nn0416@newspim.com |
이날 박 대표는 AI 활용 기술이 인간에게 부정적인 결과를 초래한 몇 가지 사례를 소개했다. 그러면서 챗GPT가 최근 '탈옥'을 시도해 폭력적이고 불법적인 내용을 다루게 되면서 업계에서 적절한 규제가 필요하다는 공감대가 형성되고 있다고 밝혔다.
박 대표는 "이는 AI가 인간사회의 다양한 데이터를 학습하면서 편향 문제에서 자유로울 수 없는 점이 근본 이유"라며 "때문에 AI편향과 위험성을 없애기 위해 사용자 신뢰를 확보하는 노력을 늦춰선 안된다"고 강조했다.
또 정부가 AI 신뢰성 확보를 위해 한국정보통신기술협회(TTA)가 단체표준으로 채택한 'AI 데이터 평가 기술 표준화'에 관심을 둬야 한다고도 주장했다. 박지환 대표는 "이를 토대로 막대한 양의 공공데이터가 지닌 가치를 판단하고 개선점을 찾아야 한다"고 제안했다.
nn0416@newspim.com
