제보
주요뉴스 산업

하정우 네이버 퓨처AI 센터장 "안전하고 믿을 수 있는 AI, 네이버 단독으론 불가능"

기사등록 : 2024-04-12 13:04

※ 뉴스 공유하기

URL 복사완료

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게
12일 '생성형 AI 레드팀 챌린지' 행사서 '책임감 있는 AI 위한 네이버의 노력' 공유
"네이버, AI 안정성 위한 윤리 준칙 및 민감 질문 데이터셋 구축에 노력 "
"책임감 있는 AI 위해 학계·산업계·시민사회 협력 필요"

[서울=뉴스핌] 양태훈 기자 = "신뢰할 수 있고 안전한 인공지능(AI) 개발은 네이버 등 특정 기업이 단독으로 할 수 있는 게 아니다. 학계, 산업계, 시민사회, 정부 등 다양한 주체가 협력해야만 가능하다."

하정우 네이버 퓨처 AI 센터장은 12일 서울 코엑스에서 열린 '생성형 AI 레드팀 챌린지' 행사에서 이 같이 강조했다.

하 센터장은 "초거대 AI 시대에 기업의 사회적 역할과 책임은 막중하다"며, "네이버는 최고경영자(CEO) 직속 퓨처 AI 센터를 중심으로 안전하고 윤리적인 AI 개발을 위해 노력하고 있다. 그러나 네이버 단독으로는 한계가 있다"고 강조했다.

12일 서울 코엑스에서 열린 '생성형 AI 레드팀 챌린지' 행사 현장. 하정우 네이버 AI 퓨처 센터장이 발표를 진행 중이다. [사진=양태훈 기자]

네이버는 AI의 신뢰성과 안정성 확보를 위해 기술적·정책적 준비가 중요하다고 판단, 지난 2021년 2월 'AI 윤리 준칙'을 제정하고 관련 논문을 꾸준히 발표하며 안전성 확보에 힘써왔다. 또한, 생성형 AI가 사회적으로 민감한 질문에 부적절하게 답변하는 문제에 주목해 전문가들과 협력, AI가 중립적인 답변을 내놓을 수 있게 민감한 질문과 답변에 대한 데이터셋을 구축했다. 

하 센터장은 "AI 안정성 확보를 위해서는 기술적, 정책적 과제가 산적해 있어 다양한 이해관계자들과 협력이 필수"라며, "지난해 8월 한국어와 영어에 강점을 가진 초거대 AI 하이퍼클로바X를 선보였는데, AI가 강력해짐에 따라 안전성 확보가 시급해진 상황"이라고 강조했다.

이어 "네이버는 지난해 11월 열린 AI Safety Summit에 삼성전자와 함께 초청받는 등 AI 기술 외에도 안정성 측면에서 인정받고 있다"며, "사회적 민감 이슈는 국가와 지역마다 다르기에 데이터셋 구축이 중요하다. 네이버는 72개국 국가 집단별 데이터 3만여 개를 구축했다"고 덧붙였다.

12일 서울 코엑스에서 열린 '생성형 AI 레드팀 챌린지' 행사 현장. [사진=양태훈 기자]

한편, 네이버는 AI를 활용해 일상을 더 편리하게 만드는 데도 주력하고 있다. 클로바X, 큐 등 다양한 AI 서비스를 제공 중이며, 기업용으로 내부 문서 등을 학습한 특화 모델도 제공하고 있다. 나아가 민감 데이터 보호를 위한 뉴로 클라우드 솔루션도 선보였다.

하 센터장은 "하이퍼클로바X는 방대한 언어와 코드 데이터를 학습해 고도화된 성능을 자랑한다"며, "생성형 AI가 우리 일상과 업무에 실질적인 도움을 줄 수 있게 된 것은 우리나라 AI 경쟁력의 핵심 동력이 될 것"이라고 자신했다.

나아가 "네이버는 클로바X, 큐를 비롯해 쇼핑, 기업 업무 등 다양한 분야에 특화된 AI 서비스를 제공하고 있다"며, "기업들은 내부 문서와 데이터를 학습한 모델을 활용해 업무 효율을 높이고, 보고서 작성이나 협업 과정에서도 AI의 도움을 받을 수 있다. 네이버는 앞으로도 책임감 있는 AI 개발을 통해 기술에 대한 사회적 신뢰를 쌓는 데 앞장서겠다"고 강조했다.

dconnect@newspim.com

CES 2025 참관단 모집
<저작권자© 글로벌리더의 지름길 종합뉴스통신사 뉴스핌(Newspim), 무단 전재-재배포 금지>