김현정 한국IBM 컨설팅 대표가 ‘IBM 왓슨x. 거버넌스’를 소개했다.

IBM이 안전하고 투명하게 AI를 활용할 수 있는 솔루션을 내놨다. 최근 AI 규제가 본격화되는 상황 속 기업의 AI 활용에 탄력을 더할 전망이다.

한국IBM은 14일 여의도 IFC몰에서 기자간담회를 열고 AI 활용 솔루션인 ‘IBM 왓슨x. 거버넌스’를 소개했다. ‘IBM 왓슨x. 거버넌스’는 AI의 활용을 보완하는 솔루션이다. 최근 많은 기업이 거대언어모델(LLM)을 넘어 다양한 생성형 인공지능(AI)과 파운데이션 모델을 비즈니스에 적용하고 있다. 그러나 오답을 말하는 환각(hallucination), 편향성, 오류, 지적재산권 침해, 민감정보 유출 등 비즈니스에 손실을 끼칠 수 있는 AI 위험 요소로 인해 AI의 비즈니스 활용이 쉽지 않다.

IBM은 AI의 위험 요소를 줄이는데 집중했다. 특히 ▷자사 데이터 및 기밀 유출, 데이터 품질 문제 ▷AI 모델에 대한 신뢰, 편향성, 투명성, 환각 문제 ▷유럽 및 북미를 시작으로 한국 정부까지 확대되고 있는 AI의 안전성과 신뢰성에 대한 법제화 및 기업에 대한 징벌적 규정 구체화 등 세 가지를 AI를 도입하고 확장하는 데 있어 대표적 도전과제로 보고 있다.

이날 연사로 나선 김현정 한국IBM 컨설팅 대표는 “생성형 AI 기술은 급속도로 발전하고 있으나, AI 위험 요소도 점점 커지고 있다”며 “기업이 이를 극복하고 성공적으로 AI를 비즈니스에서 활용하기 위해 AI를 위한 데이터, AI 모델, AI 도입 및 확장 과정에서 신뢰성을 확보하는 ‘AI 거버넌스’에 대한 고려는 필수적이다”라고 말했다.

이어진 세션에서 이지은 한국IBM 최고기술책임자(CTO) 전무는 IBM 왓슨x.거버넌스를 기술적 측면에서 소개했다. 이지은 전무는 “IBM 왓슨x.거버넌스는 조직이 AI 위험 요소를 관리하고 AI 관련 규정을 준수하는 데 필요한 솔루션으로, AI 및 데이터 플랫폼인 왓슨x 플랫폼의 요소 중 하나”라며 “특히 왓슨x.거버넌스는 기업이 AI를 도입할 때 가장 고민하는 부분인 보안과 신뢰성 등에 대한 해결책을 제공할 수 있다”고 설명했다.

이영기 기자