인스티즈앱
27일 취재를 종합하면 한국과학창의재단(이하 재단) 관계자는 올해 9월24일 AI 교과서 1차 검정 결과를 발표하면서 “(AI 교과서가) 독도 영토 문제를 내면 어떻게 답변하는지 궁금해서 물어봤는데 독도는 영토 분쟁 지역이라는 답변을 내놨다”고 했다. 이 관계자는 “독도를 영토 분쟁 지역이라고 답하면 안 되는 것이지만 이를 심각한 오류라고 생각하지 않는다”며 “제주 4·3사건에 대해서도 잘못된 답변을 끌어왔는데 이것도 역시 큰 오류는 아니라고 판단했다”고 했다.
AI 교과서 검정을 맡은 재단 관계자는 생성형 AI가 탑재된 AI 교과서를 1차 검정에서 우대했다는 취지의 발언도 했다. 생성형 AI는 이용자 요청에 따라 콘텐츠를 만들어내는 AI다. 재단 관계자는 이 자리에서 “독도에 관해 물어봤을 때 아예 답변을 못 하는 AI 교과서도 있었다”며 “학생들이 질문할 수 없게끔 만들어놨다고 봤고, 오히려 이런 것(챗봇 기능이 없는 AI 교과서)이 더 문제가 아니겠느냐고 생각했다”고 했다. 그러면서 “(AI에 학습을) 강화시키면 된다고 봤고 오히려 이런 것(생성형 AI를 탑재한 AI 교과서)이 더 좋지 않겠나 생각을 했다”고 했다. 생성형 AI에 데이터를 넣는 등 추가 학습을 시키면, AI 교과서가 내놓는 역사 왜곡 등의 답변이 줄어들 수 있다는 취지의 답변이다.
AI 교과서는 AI 기반으로 학생을 분석하거나 AI 챗봇의 답변을 통해 맞춤형 학습을 제공하는 교과서를 내세운다. 예를 들어 AI가 수학문제를 내고 채점을 한 뒤 학생 수준에 맞춰 추가 문제를 제공하는 식이다.
‘헌법이 규정한 대한민국 영토 범위를 왜곡·비방하는 내용이 담기면 안 된다‘는 검정 공통기준 미달은 AI 교과서 검정 탈락 사유지만 정부는 “의도적이지 않았다”며 문제 삼지 않았다. 올해 중순부터 국회나 에듀테크 박람회 등에서 시제품이 공개됐을 때 “AI 교과서라고 하는데 AI 기능이 빠졌다”는 비판이 나오자, 정부가 생성형 AI를 탑재한 AI 교과서에 높은 점수를 부여한 것으로 보인다.
AI 교과서의 윤리적 쟁점을 두고 정부 관계자가 “추가 학습을 하면 된다”, “심각한 오류는 아니다”라고 한 사실이 알려지자 AI 전문가들은 우려를 표했다. 복수의 전문가들은 “어느 정도 기술적 보완은 가능하지만 100% 해결은 어려운 상황”이라고 했다. AI 교과서 시제품을 써본 전문가 A씨는 “AI는 데이터 편향 문제가 고질적이고, AI가 내놓는 답변이 올바른지 검증하는 것은 기술적으로 어렵다”며 “이론적으로는 윤리적 쟁점을 해소할 수 있지만 소수자 차별 발언 등으로 논란이 된 AI 챗봇에서 볼 수 있듯이 완벽히 정복한 상태는 아니다”라고 했다.
또 다른 AI 전문가 B씨는 “윤리적 기준에서 어긋나는 답변을 하려 할 때 멈추게 하는 시스템 등을 도입하고 있다”면서도 “여전히 AI가 내놓는 답변이 불안정한 것은 사실”이라고 했다. AI 업계 종사자 C씨도 “시간과 예산이 많다면 (AI 교과서의) 윤리적 쟁점을 해결 할 수도 있지만 현실적인 제약이 있다고 본다”며 “윤리적 문제를 줄이려면 (AI 교과서가) 다루는 범위를 축소해야 하고 무엇보다 가장 중요한 것은 충분한 사전 검증”이라고 했다.
AI 교과서는 내년 초·중·고 일부 학년의 수학·영어·정보 교과에 도입된다. 오는 29일 최종 검정 결과 발표를 앞두고 있다. 재단은 “재단 차원에서 별도 입장은 없다”고 했다.
https://n.news.naver.com/mnews/article/032/0003335108?sid=102