‘2023 산업지능화 컨퍼런스’서 기조 강연 진행

박지환 씽크포비엘 대표가 지난 10일 서울 코엑스에서 열린 ‘2023 산업지능화 컨퍼런스’에서 강연을 진행하는 모습. 사진=씽크포비엘
박지환 씽크포비엘 대표가 지난 10일 서울 코엑스에서 열린 ‘2023 산업지능화 컨퍼런스’에서 강연을 진행하는 모습. 사진=씽크포비엘

[포인트데일리 송형근 기자] 지난해 ‘오픈에이아이(OpenAI)’가 선보인 대화 전문 인공지능 챗봇 ‘ChatGPT(이하 챗GPT)’의 이용자가 빠르게 늘어나는 가운데 인공지능 검증(AI), 신뢰 확보에 대한 관심도 높아져야 한다는 주장이 나왔다.

박지환 씽크포비엘 대표는 지난 10일 서울 코엑스에서 열린 ‘2023 산업지능화 컨퍼런스’에서 챗GPT가 기존 규칙에서 벗어나 교란을 일으키는 이른바 ‘탈옥’ 문제를 일으킨 것과 관련해, AI 신뢰성 검증이 해결책으로 중요하게 다뤄져야 한다고 강조했다.

박 대표는 ‘미래 산업계 AI와 디지털 트윈’을 주제로 열린 컨퍼런스 기조 강연에서 챗GPT에 대한 사회적 우려를 언급하고, 인간에게 유익한 방향으로 챗GPT를 통제하기 위해서는 관련 규제 마련이나 기술적 방법 도출이 시급하다고 지적했다.

박 대표는 효율을 중시하는 과정에서 자칫 인간이 AI에 사실상 모든 판단 주체를 넘기는 맹신에 가까운 태도를 보이면 걷잡을 수 없는 문제에 직면할 수 있다고 밝히며 실제 AI 활용 기술이 인간에게 부정적 결과를 초래한 사례를 소개했다.

박 대표 “챗GPT는 최근 ‘탈옥’을 시도해 폭력적‧불법적 내용을 다루는 등 앞으로 얼마든지 문제를 일으킬 수 있는 상황”이라며 “업계 일각에서 ‘적절한 규제가 필요하다’는 공감대가 형성됐다”고 밝혔다.

박 대표는 이러한 문제가 AI 스스로 의지를 지녔거나, 개발자가 악의적으로 만들었기 때문에 발생한 건 아니라고 단언했다. 다만 AI가 다양한 인간‧사회의 데이터를 학습하기에 편향 문제에 자유로울 수 없는 점이 근본적인 이유라고 진단했다. 그러면서 AI의 편향과 위험성을 없애고 사용자 신뢰를 확보하는 노력을 늦춰서는 안 된다고 덧붙였다.

박 대표는 강연을 통해 업계는 물론, 정부가 AI 신뢰성 확보를 위해 ‘AI 데이터 평가 기술 표준화’에 관심을 둬야 한다는 구체적 해결 방안도 제시했다. AI 데이터 평가 기술 표준화는 한국정보통신기술협회(TTA)가 담당하고 있다.

씽크포비엘은 지난 2021년과 지난해에 걸쳐 관련 기술기법 다섯 건이 TTA 단체표준으로 채택된 바 있다. 씽크포비엘은 이를 토대로 막대한 양의 공공데이터가 지닌 가치를 판단하고 개선점을 찾는 평가를 제안하고 있다.

박 대표는 “학습데이터를 기술적 방법으로 통제하지 않은 채 AI에 공정한 판단을 요구하는 것은 길거리에 자유롭게 방치된 아이가 아무 탈 없이 인격자로 자라나길 기대하는 것과 다를 바 없다”며 “신기술이 제공하는 문명을 우리가 온전하게 누리기 위해서는 신기술에 대한 맹신과 불신을 구별해야 한다”고 강조했다.

그는 이어 “이를 통해 인간 보편의 존엄과 가치를 지킬 수 있는 검증 기술, 즉 ‘AI 신뢰성 검증’과 ‘데이터 편향 측정’ 같은 기술이 병행‧발전돼야 할 것”이라고 덧붙였다.

한편 2023 산업지능화 컨퍼런스는 한국산업지능화협회(KOIIA) 주최로 지난 9일과 10일 양일 간 코엑스에서 ‘2023 스마트공장‧자동화산업전’과 함께 열렸다. 컨퍼런스에서는 디지털 전환(DX) 관련 국내외 대표 사례를 소개하는 기조 세션을 비롯해 ‘산업 AI’, ‘제조 지능화’, ‘제품 디지털 트윈’ 세션에서 산학연 전문가 강연이 이어졌다.

저작권자 © 포인트데일리 무단전재 및 재배포 금지