프로그래밍 수학 존재론― 논리의 언어가 도달하지 못하는 세계에 대하여

 

1. 들어가며 — 나는 계산을 잘하지 못했지만

나는 어릴 적부터 수학에 흥미가 많았다.
정확히 말하자면, 문제 풀이나 계산에는 약했지만
‘수학이란 무엇인가?’라는 본질적인 질문은 늘 내 안에 살아 있었다.

왜 1 더하기 1은 2가 되는가?
덧셈이란 무엇인가?
곱셈은 왜 반복된 덧셈이라 부를 수 있는가?

문제집보다는 사유에 몰입했다.
그리고 나는 점점 하나의 감각에 이르게 되었다.

수학은 결국, 프로그래밍 언어와 비슷하다.

 

수학은 실행 가능한 언어다

---

2. 수학은 실행 가능한 언어다

수학은 기호와 규칙, 논리적 순서를 따르는 언어다.
+, ×, =, ∈, ∑ 같은 연산 기호들은 마치 프로그래밍의 함수나 연산자 같다.

• 덧셈은 반복된 증가
• 곱셈은 반복된 덧셈
• 조건부 수열은 if-else 문과 닮아 있다
• 귀납법은 반복문이며, 수학적 증명은 실행 가능한 코드처럼 느껴진다

수학은 결국, 정의된 대상을 대상으로, 정의된 규칙을 통해 작동하는 구조화된 명령 언어다.
이 점에서 수학은 고도의 프로그래밍 언어이며,
컴퓨터 코드와 본질적으로 유사한 추상 논리 구조를 가진다.

---

3. 나는 우주의 끝을 프로그램하고 싶었다

어릴 적 나는 상상했다.
만약 우주의 끝에 무엇이 있는지를 알고 싶다면,
그것을 계산할 수 있는 프로그램을 만들면 되지 않을까?

정해진 알고리즘, 정리된 데이터, 반복 가능한 연산 구조를 만들어
“우주의 끝”을 해석할 수 있다고 믿었다.

하지만 얼마 지나지 않아 나는 그 상상 위에 멈춰 섰다.

“우주의 끝”이란 도대체 무엇인가?
그것은 공간인가, 개념인가, 아니면 인간이 만든 환상인가?

나는 그것을 프로그래밍할 수 없었다.
왜냐하면, 그것을 정의할 수 없었기 때문이다.

---

4. 표현할 수 없는 문제들

수학은 ‘정의 가능한 것들’에 대해만 작동한다.
그렇다면, 정의되지 않는 개념은 어떻게 할 것인가?

나는 깨달았다.

표현되지 않는 것은 계산되지 않으며, 계산되지 않는 것은 수학화되지 않는다.

이 깨달음은 이후 알게 된 수학사 속 주요 이론들과도 맞닿아 있다.

• 괴델의 불완전성 정리: 어떤 수학 체계는 그 체계 내에서 스스로의 진위를 증명할 수 없다
• 튜링의 정지 문제: 모든 프로그램이 멈추는지를 결정하는 일반 알고리즘은 존재하지 않는다
• 타르스키의 진리 정리: 어떤 언어의 모든 진리는 그 언어 안에서 정의할 수 없다

나는 이 위대한 이론들의 이름을 모르고도
그 벽 앞에 사유로 다가갔던 것이다.

---

5. 프로그래밍 수학 존재론 — 나의 주장

나는 이렇게 정리하고 싶다.

수학은 인간이 만든 실행 가능한 언어이며,
이 언어는 정의 가능한 세계에 대해서만 작동한다.
그러나 존재의 세계에는 언제나
정의되지 않지만 ‘존재하는 것들’,
즉 논리로 환원되지 않는 실재가 있다.

이로부터 나는 다음과 같이 주장한다:

• 모든 진실은 수학으로 표현되지 않는다
• 모든 문제는 프로그래밍될 수 없다
• 모든 존재는 언어와 논리의 틀 바깥에서도 유효하다

---

6. 인간, 질문의 특권을 가진 존재

AI는 모든 공식을 조합하고, 논리를 전개할 수 있다.
그러나 AI는 ‘표현되지 않는 것에 대한 감각’을 갖지 못한다.

• 정의되지 않은 것에 대해 질문하는 능력
• 개념 이전의 ‘느낌’을 사유로 전환하는 능력
• 언어 이전의 직관으로부터 시작되는 탐색

이것은 인간만이 가진 고유한 특권이다.

나는 계산을 잘하지 못하지만,
나는 지금도 질문하는 존재로 살아간다.

---

7. 나는 지금, 내 자리에서

나는 정규 수학을 잘하지 못했다.
그러나 나는 그보다 더 오래,
수학이란 무엇인가, 존재는 수학으로 설명될 수 있는가,
표현되지 않는 세계는 어떻게 접근해야 하는가를 생각해왔다.

그리고 지금, 내가 할 수 있는 일은 다음과 같다:

내 사유를 기록하고, 글로 남겨
이 시대를 사는 또 다른 질문자에게 건네는 것.

그것이 내가 서 있는 자리에서 인류에게 보탬이 되는 길이라 믿는다.

---

8. 맺으며 — 수학과 침묵 사이에서

수학은 위대한 언어다.
프로그래밍은 그 언어의 실현 수단이다.
그러나 그 둘이 도달하지 못하는 침묵의 공간이 있다.

나는 그 침묵을 마주하며,
그 너머를 질문하는 존재로 남고 싶다.

그리고 언젠가, 나의 질문이
누군가에게 사유의 문을 여는 열쇠가 되기를 바란다.

---

참고문헌 및 개념 연결

1. Kurt Gödel (1931) — 불완전성 정리
2. Alan Turing (1936) — 정지 문제(Halting Problem)
3. Alfred Tarski (1936) — 진리의 형식화 불가능성
4. Curry–Howard Correspondence — 수학 정리와 프로그래밍 타입 간의 대응
5. Tegmark, M. (2014) — Our Mathematical Universe
6. Rzhetsky et al. (2006) — Mathematics, Computer Code, or Esperanto?

영문 번역본 보러가기

The Ontology of Mathematical Programming — On the Limits of Logic and the Unexpressible

The Ontology of Mathematical Programming — On the Limits of Logic and the Unexpressible

 

함께 읽으면 도움이 되는 글

조선이 낳은 수학 천재 최석정과 9차 직교 라틴 마방진 이야기

조선이 낳은 수학 천재 최석정과 9차 직교 라틴 마방진 이야기

조선의 하늘을 재정의하다 – 『칠정산 내외편』이 증명한 독립 과학의 위엄

조선의 하늘을 재정의하다 – 『칠정산 내외편』이 증명한 독립 과학의 위엄

천상열차분야지도: 현대적 가치와 세계적 영향(2편)

천상열차분야지도: 현대적 가치와 세계적 영향(2편)