뉴스룸

바둑으로 본 인공지능의 위험 감수 성향: 인간과의 차이를 밝히다 2025.04.22

신촌 홍보팀

바둑으로 본 인공지능의 위험 감수 성향: 인간과의 차이를 밝히다

- 연세대 홍순만 교수팀, AI 의사결정 방식의 사회과학적 분석 -

연세대학교 행정학과 홍순만 교수 연구팀이 인간과 인공지능(AI)의 의사결정 방식에 내재된 차이를 설명하기 위해 바둑을 분석 대상으로 삼아, AI의 위험 감수 성향이 인간과 어떻게 다른지를 분석한 연구를 발표했다.

홍순만 교수와 이상현 교수(연세대 객원교수)가 공동 연구한 이번 논문은, 바둑이라는 복잡한 전략 게임을 실험 무대로 삼아 AI가 인간보다 훨씬 더 위험중립적인 방식으로 의사결정을 내린다는 사실을 실증적으로 보여줬다. 연구팀은 이러한 차이가 인공지능이 종종 과도한 자신감(Overconfidence)을 보이며 오류를 산출하는 원인 중 하나일 수 있고, 이는 자칫 큰 판단 오류로 이어질 수 있다고 경고했다.

연구는 연구팀이 직접 개발한 바둑 AI와 유사한 기력을 지닌 아마추어 7단 인간 기사의 대국 데이터를 수집·분석하는 방식으로 진행됐다. 분석 결과, AI는 위험 요소를 고려하지 않고 기대 수익을 극대화하는 ‘위험중립적’ 전략을 취하는 반면, 인간은 기대 수익을 일부 포기하더라도 불확실성을 줄이려는 ‘위험회피적’ 전략을 선호하는 경향이 있는 것으로 나타났다.

이번 연구는 단순한 기술적 성능 비교를 넘어, AI가 인간과 다른 판단을 하는 원인 중 하나를 사회과학적 관점에서 분석했다는 점에서 주목된다. 특히 행정, 의료, 사회복지, 재난관리 등 고위험 공공 분야에 AI가 활용될 경우, 이와 같은 ‘위험중립적 판단’이 새로운 사회적 리스크로 이어질 수 있다는 점을 시사한다.

연구팀은 향후 AI 시스템 설계에 있어 ▲시뮬레이션 기반 불확실성 저감 능력 강화 ▲오류 대비 안전장치 마련 ▲전문가 피드백 접목 등 책임 있는 AI 개발을 위한 제도적·윤리적 기준 수립의 필요성을 강조했다.

이번 논문은 “인간은 AI의 판단을 어느 수준까지 신뢰해야 하는가?”, “우리 사회는 AI의 결정을 어디까지 수용할 수 있는가?”라는 근본적인 질문을 제기하며, 국제학술지 Journal of Psychology and AI에 4월 22일(한국시간) 게재됐다.

홍순만 연세대 행정학과 교수는 “애초에 인공지능과 행정학을 연결할 계획은 없었다”라며, “연구는 알파고의 훈련 방식에 대한 개인적인 호기심에서 출발했다”고 말했다.

특히 일본 전기통신대학(UEC) 컴퓨터공학과가 주최한 세계 AI 바둑대회에 연세대 학생들과 참가한 경험이 본격적인 연구의 계기가 됐다. 당시 홍 교수가 직접 개발한 AI 모델 ‘Nova’는 대회에서 독창성을 인정받아 ‘독창상(Originality Award)’을 수상했으며, 연세대 행정학과 BK21 사업단의 교육 프로그램은 인문사회계 AI 교육 사례로 일본 NHK 방송에도 소개됐다.

홍 교수는 “충분한 검증을 거치지 않은 AI는 얼핏 정교해 보일지라도, 때로는 리스크를 전혀 고려하지 않은 채 과감한 판단을 내려 치명적인 결과를 초래할 수 있다”고 경고했다. 예를 들어 프로 기사를 능가하는 바둑 AI조차도 초등학생도 쉽게 피할 수 있는 축을 놓치거나, 자신의 집을 메우는 등 비상식적인 실수를 저지르는 경우가 있다고 설명했다. 그는 “금융 투자, 자동 매매, 정책 시뮬레이션처럼 불확실성이 큰 분야에서는 AI의 판단을 신중히 검토하고, 인간의 개입과 검증이 필요할 수 있다”라고 강조했다.

AI와 인간의 판단 차이에 대해 홍 교수는 “인간은 위기 상황에서 본능적으로 위험과 불확실성을 줄이려는 결정을 내리지만, AI는 목표 달성만을 향해 직진하는 경향이 있다”며, “AI의 판단을 무조건 신뢰하기보다는 인간과의 협업과 상호 검증 체계가 함께 작동해야 한다”고 말했다.

끝으로 그는 “AI에 관한 연구는 매우 빠르게 변화하는 ‘무빙 타깃(Moving Target)’과 같다”며, “사회과학자들 역시 공학적 방법론에 더욱 적극적으로 접근해야 하며, 기술과 사회의 융합 연구는 앞으로 더욱 중요해질 것”이라고 전망했다.

붙임 연구팀 사진 2장. 끝.

(논문 정보)

1. 논문 제목: Overconfident AI: How Artificial Intelligence Navigates Risk and Uncertainty

2. 논문 주소: https://doi.org/10.1080/29974100.2025.2486974

연세대학교

연세소개

뉴스룸