AI와 논리 – 수학의 증명 자동화를 중심으로
생각을 생각하다
인간, 기계, 수학
김상현 · 고등과학원 수학부
2026년 8월 18일, 한국논리학회 여름 학술대회
생각이란 무엇일까?
I. 생각하는 기계의 꿈
II. 생각의 미래
기계는 생각할 수 있을까?
기계가 수학을 할 수 있을까?
1679 · 하노버
생각을 기호로, 추론을 계산으로
렌즈가 눈을 강화한 것 이상으로, 이 도구는 마음의 힘을 키울 것이다
— 라이프니츠, c. 1679 (의역)
AI는 혁명적 렌즈이다: 망원경과 현미경이 우리의 물질적 인지를 확장한 것처럼.
— 푸쉬밋 콜리 (구글 딥마인드), 2026
G. W. 라이프니츠(1646 - 1716)
푸쉬밋 콜리
(Google DeepMind)
데미스 허사비스
(1976 – )
ENIAC (1947)
최초의 범용 전자 컴퓨터
18,000
진공관
5,000회/초
연산 속도
30
무게 (톤)
U. S. Army (c.1950)
El Capitan (2024)
2 exaFLOPs (= 200경 회/초)
ENIAC 대비 400조 배 향상
트랜지스터 5,400조 개
크기 < 적혈구/1000
1852 → 1976 · FOUR COLOR MOMENT
사색정리의 순간 (1976)
어떤 지도든, 이웃 나라를 다르게 칠하는 데 네 가지 색이면 충분한가?
124년간 미해결
하인리히 히쉬 (1950s): 유한 개의 경우만 생각하면 된다.
하켄 (1960s) 히쉬를 미국으로 초청.
아펠-하켄 (1976) 가능하다! (히쉬의 방법)
1,936개의 경우, 400쪽, 컴퓨터가 수십 일간 확인
기계가 증명을 완성한 첫 정리, 문명사의 이정표
최초 증명에는 많은 오류가 포함, 차츰 해결됨
기계의 한계는 어디일까?
과일을 가장 조밀하게 쌓는 법
토마스 헤일스 (1998~2005)
가장 자연스러운 방법이 가장 조밀하다!
토마스 헤일스 등 (2017)
컴퓨터가 읽고 판정할 수 있는
“형식화된 언어”로 재확인
케플러 추측 (1611 → 2005)
(1900 세계수학자대회, 1928 수리논리원론)
수학 명제의 참거짓을 판별할 수 있는가?
기계적으로
다비트 힐베르트(1862-1943)
컴퓨터가 모든 수학 문제를 풀 수 있는가?
YES
NO
정지문제
프로그램이 언젠가는 종료하는가?
“100까지 세기”
STOP
N = 1
➡ N = 2
➡ N = 3 ➡ N = 4
… ➡ N = 99 ➡ N =100
➡ STOP
“화장실 탁구”
정지문제
프로그램이 언젠가는 종료하는가?
YES
NO
STOP
골드바흐 추측 (1742 ~ )
이 프로그램은 멈추지 않는다.
“필즈메달 받기”
N = 2 ➡ N = 4
➡ 4 = 2 + 2 ➡ N = 6
➡ 6 = 3 + 3 ➡ N = 8
➡ 8 = 3 + 5 ➡ N = 10
➡ 10 = 3 + 7 ➡ N = 12
… ➡ N = 4,000,000,000,000,000,000
앨런 튜링 (1912–1954)
「계산가능한 수와 결정문제에의 응용」 (1936)
처치-튜링의 논제
기계는 규칙에 따라 기호를 읽고, 움직이고, 쓸 뿐.
현대의 모든 컴퓨터
무엇을: 튜링 기계
어떻게: 폰 노이만 구조
정지문제를 모두 푸는
튜링 기계는 없다.
(튜링, 1936)
1930. 9. 7. · 쾨니히스베르크
증명할 수 없는 사실이 있다.
“모든 수학 체계에는, 증명도 반증도 불가능한 명제가 있다.”
괴델의 불완전성 정리, 1931
시공을 초월하는 랜드마크 업적 (폰 노이만, 1951)
증명(기계적 사고)로는 수학을 모두 다 알 수 없다.
수학이 인간보다 크거나, 인간이 기계보다 크다
— 괴델, 기브스 강연 1951
쿠르트 괴델
(1906–1978)
우리는 알아야 한다.
우리는 알게 될 것이다.
(힐베르트 1930)
II. 생각의 미래
I. 생각하는 기계의 꿈
기계는
기계적 사고를
넘어설 수 있을까?
인간을 대신해 생각해 주는 기계는 없을 것이라는 통념,
이에 대한 의문을 제기하고자, 나는 이 글을 쓴다.
— 앨런 튜링 (1951)
강화학습, 심층학습 (~20C)
선형대수: 데이터 변환
미적분: 학습방향
확률: 불완전한 정보
2016 · ALPHAGO MOMENT
알파고의 순간
서울포시즌스 호텔, 2016.3
200,000,000 명 전세계에서 관전
4:1 전적 AlphaGo 승 (vs. 이세돌 9단)
“그리고 나의 세상이 무너졌다”
제4국, 78수: ‘신의 한 수’, AlphaGo의 예측 1:10,000
실험상으로는 1:수백만
2017 · TRANSFORMER MOMENT
대규모 언어모델 / 트랜스포머
LLM : 다음 단어 맞추기
주목 attention (2017): 의미의 기하학. 25만회 인용.
파리: 프랑스 = 서울 : 대한민국
“낱말의 의미는 그 쓰임이다.”
— 비트겐슈타인, 『철학적 탐구』 1953
루트비히 비트겐슈타인
(1889–1951)
기계가 이해를 시작한 순간
"수학을"이 "나는"과 "공부한다"에 주목하는 과정
Attention(Q, K, V) := softmax( Q K⊤ / √dk ) V
생물학·의학
유전체 분석, 단백질 구조 예측
(AlphaFold, 2024 노벨 화학상)
천체물리학
우주 시뮬레이션,
중력파 탐지 분석
화학·재료과학
분자 시뮬레이션,
신소재 발견
수학
2022년
초등학교 문제를 풀기 시작
Wei et al. (2022)
2024 → 2025 · 국제수학올림피아드
IMO: 지구 상에서 가장 “어려운” 수학시험
Silver
IMO 2024 — 은메달
AlphaProof + AlphaGeometry 2
6문제 중 4문제 해결 (28점)
Lean 번역 필요, 최대 3일 소요
형식화된 정리들의 그래프 - 1억 개 이상의 노드
Gold
IMO 2025 — 금메달
Gemini Deep Think
경시대회 문제를 위해 특화된 post-training
6문제 중 5문제 해결 (35점)
자연어로 직접 풀이
4.5시간 (학생과 동일 조건)
2026 · ALETHEIA (GOOGLE DEEPMIND)
알레테이아 — 자연어 추론 수학 에이전트
질의·응답의 전 과정이 자연어 —
문제 입력, 증명을 포함한 풀이 출력
Gemini 기반 에이전트 구조
프롬프트 공학과 추론 자원 관리
출발점: IMO 금메달 버전의 Gemini —
연구 수준 문제로 확장
형식화 사용 안 함, 도구 사용 최소 —
“증명 자동화”와 구별되는 노선
자연어 수학 추론 —
언어 모델의 사정거리는?
2026 · ALETHEIA (GOOGLE DEEPMIND)
인간-AI 상호작용 카드
인간/AI가 기여한 부분 기록
비밀성 배격, 개인/회사 기여 과장 금지
투명성
팔 에르되시 (1913–1996)
에르되시 팔
인류 역사상 가장 많은 수학 논문을 작성 ( >1,500)
1,000 여개 미해결제 제시
알레테이아
이 중 700개 실험. 63개 정확. 50개는 문제 오류/무의미.
13개 중 4개가 독창적, 9개는 기존 결과 재발견
검증, 선별, 논문작성은 모두 인간의 역할
4개 중 1개 게재
Erdős-1051
ERDŐS–GRAHAM (1980) · PROBLEM 1051
Erdős–1051
가정. 
질문. 
이중 지수 증가 급수의 유리성
Erdős–Graham (1980) 수록
유리 급수 무리성 문헌의 연속선
관련 문제에 대한 유사 테크닉이 적용되지 않는 사례
Aletheia가 해결, 인간/AI가 함께 확장
논문 게재: S.-h. Kim et al., B. Lond. Math. Soc. (2026)
BKKLZ (2026) · HUMAN–AI INTERACTION
Erdős–1051 — 상호작용 기록
원래 문제 (
)를 알레테이아가 해결
일반화 (
)를 인간이 해결
가장 강력한 일반화 (
)를
알레테이아가 제안함
완화 :
인간이 제안하고 증명, 증명이 4배로 확장
인간이 논문 작성
AI-인간 협업의 최종결과
2026.2.6-13 · FIRSTPROOF
FirstProof 실험
석학들이 미발표 결과를 AI 회사들에 도전
10 문제, 7일 — Google, OpenAI 각각 6문제 해결
알레테이아의 7번 문제 해결 (13년 된 추측)
2022년까지도 출제자가 자신의 책에 언급한 문제
풀이: 위대한 수학자들의 업적 사용
셀버그, 카탄, 르레이, 보렐, 아티야, 노비코프, 카스파로프…
고도로 압축된 정리와 이론들을 사용하여
마치 “최고의 석학이 쉽게 푼 것처럼” 문제를 해결
구글 알레테이아 출력
1946 → 2026. 5. UNIT DISTANCE PROBLEM
단위거리 문제 (OpenAI)
에르되시 (1946)
평면에 점 n개 — 거리가 정확히 1인 쌍은 최대 몇 개인가?
격자 배치가 사실상 최선일 것
OpenAI 의 내부 모델이 해결 : “엔터키”를 눌렀을 뿐.
에르되시의 추측보다 훨씬 더 풍부한 대칭성이 있다!
정수론의 깊이 있는 이론 사용: 클래스 필드 타워, 골로드-샤파레비치 이론
“AI 수학의 이정표” — 팀 가워스 (캠브리지 대학)
ChatGPT
2026.5
볼록성 추측
미셸 탈라그랑 (2024년 아벨상 수상)
2025년 고등과학원에 남긴 강의록 / 난제 리스트
탈라그랑의 볼록성 추측: 2026년 2월, 앙투안 송(칼텍)이 절반을 해결
봄, 대학원생 화 동밍이 “GPT의 마지막 말 반복하기”로 나머지를 완결
Please continue. ▌
미셸 탈라그랑 (1952 - )
2026. 8 · OPENAI
Ten Advances in Mathematics and TCS
장기 미해결 10제 —
구면 채우기 상계 (1978 이후 첫 개선)
permanent 산술회로 하한 · 양자 병렬반복
격자 CVP 근사 난해성 · Ehrhart 부피 추측 증명
Erdös-Simonovitz 추측
차기 모델 Astra의 내부 버전
총 추론 비용 ≈ $2,000
원고 249쪽 + 모델 추론 기록 62쪽
1999 → 2026 · SOFICITY
모든 군은 소픽인가 — Gromov 질문의 해결
소픽sofic 군 — 유한 대칭군에 의한
점근적 근사를 갖는 군 (M. Gromov 1999)
그로모프의 질문: 모든 군은 소픽인가?
“모든 군에 성립하는 성질은
자명한 성질일 것”이라는 학계의 예측
Kun-Thom 2019. 소픽이 아닌 군을 찾아내는
깊고 까다로운 조건.
구성 요소: property (T) 확장 그래프 · Leavitt 대수
Kun-Thom 의 조건이 적용되는 간단한 조건
CHALLENGES TO THE COMMUNITY
네 가지 경계할 점
1. Overhype — 깊이 있는 결과는
아직 단 하나도 나오지 않았다.
소픽 문제의 경우, Kun-Thom (2019)가
깊이 있는 수학적 엔진
OpenAI 결과는 이를 쉽게 적용하는 “clever”한 트릭
2. Underhype — 50년, 100년 가까이
“가장 유명한 난제”로 남았던 문제들을 해결
Very hard problems usually come with
very good mathematics, but not at this time.
3. Subconscious plagiarism : 알레테이아의 에르되시 실험.
700개 난제, 13개의 의미 있는 풀이 —
이 중 9개는 이미 어딘가에 적혀진 결과
(기계는 인지하지 못하는 표절)
4. Polarization
Mid-level research 의 실종,
젊은 학자가 얻을 인지도 기준에 타격
What’s next 를 잘 아는 대가들에 유리
1958 · THE FEELING OF POWER
잃어버린 지식
「힘의 감각」 — 아이작 아시모프, 1958
컴퓨터가 모든 계산을 대신하는 미래 — 한 기술자가 종이 위의 곱셈을 재발견한다
“계산기 없이 계산한다니 — 말 자체가 모순이오.” — 대통령
“흥미로운 응접실 놀이로군 — 하지만 그게 무슨 쓸모가 있소?”
— 대통령
“아홉 곱하기 일곱은 예순셋. 컴퓨터가 말해 주지 않아도 안다.
컴퓨터는 내 머릿속에 있다.” — 마지막 문장
전승의 공동체가 무너진다면 — 수학도 잃어버린 지식이 될까.
기계는 생각할 수 있을까?
기계는, 생각하고 있을까?
우리는 생각해야 할까?
— 앨런 튜링, 『지성 기계, 이단적 이론』 1951
— 루트비히 비트겐슈타인, 『수학의 기초에 관한 소견』 1956
식탁의 부스럼을 주우며
“Catching Crumbs from the Table” — 테드 창, 『네이처』 2000
(AI 만이 자신들의 언어로 연구하는 시대)
“지난 25년 동안 인간의 논문이 없었다.
과학 탐구의 최전선이
인류의 이해를 넘어선 지금,
인간 과학자의 역할은 무엇인가?”
테드 창 (1967 - )
과학의 역사를 통틀어
궁극적으로 인류에게 도움이 된
위대한 발견의 대부분은
유용하게 쓰이려는 욕망이 아니라
단순히 호기심을 충족시키려는
욕망에 이끌린 사람들에 의해
이루어졌습니다.
(아브라함 플렉스너, 1939)
Please continue. ▌
그래서, 생각이란
무엇이어야 할까?