“AI 역기능 사전대응”...카카오, 기술윤리 보고서 발간

카카오 그룹 활동 성과 담아

2024 카카오 그룹 기술윤리 활동 및 기대효과. ⓒ카카오

카카오는 그룹 차원의 기술윤리 활동 성과를 담은 ‘2024 그룹 기술윤리 보고서’를 발간했다고 24일 밝혔다.

회사는 이번 보고서에서 그룹 차원의 기술윤리 거버넌스를 강화한 점을 강조했다.

지난 4월 그룹 차원의 기술윤리를 체계화하기 위해 기존 ‘공동체 기술윤리 위원회’를 개편하고 ‘그룹 기술윤리 소위원회’를 신설했다. 기존의 공동체 기술윤리 위원회가 계열사별 기술윤리를 점검하고, 발전 방안을 모색하는 역할을 맡았다면, 개편 후의 그룹기술윤리 소위원회는 리스크 사전 점검, 기술윤리 정책 통합 관리 등 선제적 대응에 중점을 두고 있다.

그룹기술윤리 소위원회는 올해 ▲ 카카오 AI 윤리 신규 항목 신설 ▲ 안전한 AI를 위한 핵심 체크리스트 도입 ▲ 생성형 AI의 사내 활용 정책 총 3건의 기술윤리 정책을 새롭게 수립했다.

우선 ‘카카오 그룹의 책임 있는 AI를 위한 가이드라인’에 이용자의 주체성을 강조하고, AI에 과도하게 의존하지 않도록 경계하며, 신체적·정신적·사회적 안전을 보장하는 신규 조항이 추가됐다.

이와 함께 AI 기반 서비스의 출시 및 업데이트 과정에서 안전한 AI 체크리스트’를 필수적으로 점검하도록 했다. 임직원의 안전한 생성형 AI 활용을 장려하기 위해 ‘생성형 AI 사내 활용 정책’도 마련했다.

이 외에도 매월 온라인 매거진 ‘테크에틱스’ 발간, 그룹 리터러시 활동 소개 페이지 개설, 연간 그룹 기술윤리 보고서 발간, 국내외 외부 소통 및 협력 확대 등 기술윤리 소통을 이어가고 있다.

카카오는 기술윤리를 위한 국제 협력에도 적극 나서고 있다. 그룹기술윤리 소위원회의 통합 관리 하에 리스크 관리 체계인 ‘Kakao AI Safety Initiative(Kakao ASI)’를 구축하고 글로벌 기준에 부합하는 AI 개발을 위해 산업계, 학계, 연구기관 등 100여 곳이 포함된 AI 얼라이언스에 국내 기업 최초로 가입했다.

주요 계열사인 카카오게임즈·카카오모빌리티·카카오뱅크·카카오엔터프라이즈·카카오엔터테인먼트·카카오페이·카카오헬스케어·디케이테크인 등도 ▲안전과 신뢰 ▲투명성 ▲포용성 및 공정성 ▲개인정보보호와 보안을 중심으로 기술윤리 활동을 확대했다. 올 한 해 소위 및 계열사 전반의 활동 내역은 총 40건에 달한다.

이상호 그룹기술윤리 소위원회 리더는 발간사를 통해 “카카오 그룹 내 일어날 수 있는 기술의 역기능을 사전에 검토하고 대응하는 체계를 강화하는 데 주력하고 있다”고 말했다.