AI-NATIVE 연재 · 수학의 양극, 1부 · 스무 살

이산과 연속, 수학의 양극—서로를 향해 도는 네 번의 전환 (스무 살을 위한 수학)

글쓴이 Paul Jialiang Wu · agentic-portfolio-lovat.vercel.app · 2026-10-15 · 21분 소요

이산수학과 연속수학은 무엇이 다르고, 언제, 어떻게, 왜 서로를 넘나들게 되는가?

이 글은 숫자를 어떻게 표기하는지 다시 설명하지 않는다. 그 내용은Number vs Representation (age 20)에 따로 다룬다. 여기서는 자연수와 실수 직선에 집중하며, 복소해석학은 다리 이름만 언급하고 본격적인 내용은 다루지 않는다.

이 글의 주제: 이산수학과 연속수학의 만남

이 글은 이산수학과 연속수학, 즉 수학의 양 끝단에 관한 에세이다. 이산수학은 서로 분리된 조각—자연수, 그래프, 문자열, 계단식 단계—을 센다. 연속수학은 틈 없는 양—길이, 시간, 온도, 실수 직선—을 잰다. 코딩을 하거나 수학을 공부하거나 머신러닝으로 무언가를 만드는 20세 전후의 독자를 염두에 두고 썼다. 연습문제를 직접 풀려면 Python이 깔린 노트북과 20분이면 충분하다.

진짜 질문은 두 끝이 어떻게 다르냐가 아니라, 언제, 어떻게, 왜 서로를 향해 방향을 틀게 되는가이다. 수학은 이 두 극을 오가며, 현대 공학의 대부분도 그 진동 위에 있다. 이 글에서는 네 가지 전환을 짚는다. 각 전환마다 그것을 불러오는 조건, 실제로 쓰는 기법, 그리고 그 동기를 밝힌다. 동기는 세 가지로 나뉜다: 진리(무언가를 증명하려는 욕구), 사랑(누군가를 돕거나 쓸모 있게 하려는 마음), 아름다움(많은 경우를 하나의 구조로 꿰는 것)이다.

이 글은 일종의 실험이기도 하다. playbook-math라는 방법론을 적용했다. 이 방법은 Numbers at Four Ages 시리즈를 위해 처음 만들어졌고, 이 방식이 새로운 주제에도 통할지 시험해 본 것이다. 이 글의 토대가 된 것은 Two Ends Playground라는 무료 웹페이지로, 한 쪽이 다른 쪽으로 바뀌는 과정을 보여주는 세 가지 라이브 데모가 준비되어 있다.

이 글 전체를 관통하는 비유는 주방 사다리 맨 위에서 내려다본 전국 식품 공급망이다. 달걀은 이산적이다. 개수를 세고, 반쪽짜리 달걀을 배송하는 일은 없다. 밀가루는 연속적이다. 무게를 재며, 몇 그램이든 가능하다. 전국 체인은 매일 아침 이 두 가지를 동시에 계획해야 하고, 네 가지 전환 모두 그 사무실에서 실제로 일어난다.

직접 해보기 1 · 미끄러짐을 셈으로 재기

이산과 연속, 그리고 그 사이의 경계

이 구분은 이미 고대부터 있었다. 아리스토텔레스는 양(量)을 이렇게 나눈다: "양은 이산적이거나 연속적이다." (Aristotle, Categories, Part 6, tr. E. M. Edghill". 그가 구분하는 기준은 명확하다. 이산적인 양에서는 부분들이 서로 맞닿는 경계가 없다. 예를 들어, "다섯이 두 번 모이면 열이 되지만, 그 두 다섯은 공통 경계가 없고 서로 분리되어 있다". 반면, 선은 서로 맞닿는 부분들로 이루어진다.

먼저 용어부터 분명히 하자. 여기서 "이산적"이란 자연수처럼 분리되고 셀 수 있는 조각들로 이루어진 것을 뜻한다. 분수 역시 셀 수 있지만, 아무리 촘촘히 늘어세워도 두 수 사이에는 항상 또 다른 분수가 있다. "연속적"이란, 전혀 틈이 없는 선을 의미한다.

오랜 세월 동안 연속이야말로 더 신비로운 영역이었다. 제논의 운동 역설들(이분법, 아킬레스와 거북이, 화살, 경기장, Huggett, Stanford Encyclopedia of Philosophy, Zeno's Paradoxes)은 선을 무한히 쪼갤 수 있다는 생각 자체에 도전했다. 분수는 두 수 사이에 항상 또 다른 분수가 있으니 선을 가득 채우는 듯 보였지만, 여전히 구멍이 남았다. 데데킨트는 유리수를 "틈, 불완전성, 불연속성" (Bell, Stanford Encyclopedia of Philosophy, Continuity and Infinitesimals (quoting Dedekind 1872)"이라 불렀다. 그는1872 오직 셀 수 있는 분수만으로 그 구멍을 메우는 방법을 제안했다. 즉, 각 실수는 분수들을 왼쪽 무더기와 오른쪽 무더기로 나누는 방식으로 정의한다(MacTutor, Richard Dedekind). 연속체는 결국 셀 수 있는 조각들로 쌓아 올린 셈이다.

하지만 Cantor는 이 두 세계가 크기부터 다르다는 점을 증명했다. 1874 그는 실수 전체는 자연수나 유리수처럼 하나씩 차례로 셀 수 없다는 사실을 보였다(MacTutor, Georg Cantor). 이후에 더 유명한 대각선 논법이 등장한다(1891 (Wikipedia, Cantor's diagonal argument). 즉, 실수 직선에는 우리가 이름 붙일 수 있는 것보다 훨씬 더 많은 점이 있다는 뜻이다. 이 구성법을 모두가 곧바로 받아들인 것은 아니었다. Weyl은 Das Kontinuum (1918)에서 이런 방식을 쓰지 않고 해석학을 다시 세우려 했다(Stanford Encyclopedia of Philosophy, Hermann Weyl).

이산수학은 Σ로 합을 구하고, Δ로 차분을 구하며, 귀납법으로 증명하고, 경우의 수를 정확히 센다. 연속수학은 ∫로 적분하고, d/dx로 미분하며, 근사와 극한을 이용해 증명한다. 이 두 도구 체계는 실제로는 강의에서 흔히 생각하는 것보다 훨씬 더 닮아 있다. "The finite difference is the discrete analog of the derivative."(번역: 유한 차분은 미분의 이산적 대응물이다.)" (Weisstein, MathWorld, Finite Difference) Σ는 Δ를 정확히 되돌리고, ∫는 d/dx를 되돌린다. Graham, Knuth, Patashnik은 이 거울 구조 전체를 한 권의 책으로 엮으며, 제목도 거기서 따왔다. "Concrete Mathematics is a blending of CONtinuous and disCRETE mathematics."(번역: Concrete Mathematics는 연속수학(CONtinuous)과 이산수학(disCRETE)의 융합이다.)" (Graham, Knuth & Patashnik, Concrete Mathematics, publisher description (InformIT)).

실습 2 · 계단에서 미끄럼틀로

수학의 네 가지 전환

수학은 어느 한쪽에 머무르지 않는다. 이산과 연속, 두 세계를 오가며 회전한다. 각 전환에는 그것을 불러오는 조건, 실현하는 기법, 그리고 움직이는 동기가 있다. 그림의 화살표는 각 전환이 결과를 어디로 옮기는지 보여준다. 극한은 매끄러운 공식(1번 전환), 해석학은 정수에 대한 사실(2번), 샘플링은 기계가 다룰 수 있는 수(3번), 릴랙세이션은 연속 문제로 넘어갔다가 다시 정수 해로 돌아오는 왕복(4번 전환)을 만들어낸다.

전환 1 · 셈에서 측정으로: 아주 작은 단계가 많을 때

조건 아주 많은, 작게 쪼개진 이산적 조각이 있는 문제

기법 조각을 한없이 작게 쪼개 극한을 취한다. 합은 적분이 되고, 히스토그램은 곡선이 된다.

예시

• 스털링 공식(1730, MacTutor, James Stirling)은 n!을 매끄러운 식 √(2πn)(n/e)ⁿ으로 근사한다. n = 10만 되어도 이 근사는 10!보다 0.83%밖에 작지 않다(계산 결과).
• 1733 드 무아브르는 동전을 많이 던졌을 때 앞면이 나오는 횟수가 종 모양 곡선을 따른다는 사실을 보였다(MacTutor, Abraham de Moivre).
• 1837 포아송 분포는 드문 사건이 아주 많을 때의 극한으로 등장했다(MacTutor, Simeon Poisson).

Two Ends Playground 2부Two Ends Playground에서 동전 실험을 직접 볼 수 있다. 100번 던져서 50번 앞면이 나올 확률은 정확히 0.079589이고, 종 곡선의 해당 높이는 0.079788이다(계산 결과).

이 전환의 동기는 주로 아름다움이다: 곡선 하나가 백만 개의 경우를 한 번에 아우른다. 주방의 기획실에서는 더 이상 각 고객의 주문을 따로 예측하지 않는다. 대신, 전국의 수요를 하나의 부드러운 곡선으로 그려낸다.

두 번째 전환 · 연속이 이산을 증명할 때: 셈만으로는 벅찰 때

전환이 필요한 상황: 단순한 셈으로는 풀리지 않는 정수에 관한 문제.

전환의 방법: 이산적인 수열을 연속 함수로 감싸고, 그 함수에 미적분을 적용한다. Wilf의 비유가 특히 절묘하다. "A generating function is a clothesline on which we hang up a sequence of numbers for display." (번역: 생성함수란 수열을 빨랫줄에 걸어 전시하는 것과 같다.)" (Wilf, generatingfunctionology).

가장 극적인 예는 소수다, 수학에서 가장 이산적인 존재다.

• 1859 리만은 이 문제를 제타 함수로 공략했다. 이 함수는 복소수 변수를 다룬다 (Riemann, On the Number of Primes Less Than a Given Magnitude, tr. D. R. Wilkins).
• 소수 정리, 즉 x 이하에 대략 x / ln x개의 소수가 있다는 명제는 1896에 Hadamard와 de la Vallée Poussin이 서로 독립적으로, 바로 그 연속적 도구를 써서 증명했다 (Weisstein, MathWorld, Prime Number Theorem).
• 오일러가 1/n²의 합이 π²/6임을 보인 것도, 정수의 합에 원의 상수가 등장하는 대표적 사례다 (작성 1735, Euler Archive, E41 De summis serierum reciprocarum).

이 전환의 동기는 진리다: 연속의 도구가 이산에서는 오랫동안 명제만 있었던 사실을 실제로 증명해냈다. 물론, 영원히 그랬던 것은 아니다. 1949 Selberg와 Erdős는 복소해석을 전혀 쓰지 않고도 소수 정리를 증명했다 (MacTutor, Atle Selberg) 이 전환이 먼저 도달했지만, 유일한 길은 아니었다.

전환 3 · 셈이 연속을 구현하다: 기계나 사람이 직접 행동해야 할 때

상황: 연속적인 세계에서 누군가가 유한한 장치—컴퓨터, 센서, 손—로 직접 작동해야 할 때.

방법: 샘플링하거나, 조각내거나, 유한한 숫자 집합으로 반올림한다.

대표 사례:

• Shannon의 샘플링 정리(1949)는 언제 정보 손실이 없는지 정확히 알려준다: "If a function f(t) contains no frequencies higher than W cps, it is completely determined by giving its ordinates at a series of points spaced 1/2W seconds apart"(번역: 함수 f(t)에 W cps보다 높은 주파수가 없다면, 1/2W초 간격으로 나열된 점들의 함수값만으로 f(t)를 완전히 결정할 수 있다)" (Shannon (1949), Communication in the Presence of Noise, Proc. IRE 37(1))—이 원리 덕분에 노래 한 곡이 파일로 저장될 수 있다.
• 고속 푸리에 변환(1965, Cooley & Tukey (1965), Math. Comp. 19(90), Crossref record)은 주파수 해석을 이산적으로, 저렴하게 어디서나 돌릴 수 있게 만들었다.
• 유한 요소법은 Courant가 수치적으로 처음 도입했는데, 1943 (MacTutor, Richard Courant) 다리나 날개를 작은 조각으로 쪼개서 기계가 풀 수 있게 한다.
• 부동소수점(IEEE 754-2019, IEEE Standards Association, IEEE 754-2019)은 모든 컴퓨터에 연속적인 수 대신 쓸 수 있는 유한한 숫자 메뉴를 제공한다.

기계의 본질은 철저히 이산적이다. 튜링 기계의 테이프는 "exactly one symbol"(번역: 정확히 한 개의 기호)" per square (Stanford Encyclopedia of Philosophy, Turing Machines).

이 전환의 동기는 사랑, 즉 실제로 누군가를 돕기 위함이다.엔지니어, 음악을 듣는 사람, 스캐너에 누운 환자 모두가 그 대상이다. 주방의 온도 조절기는 오븐 온도를 연속적으로 읽지 못한다. 1초에 몇 번씩 온도를 샘플링하지만, 그 정도로도 빵은 충분히 잘 구워진다.

자연이 스스로 이산적인 답을 내놓는 경우도 있다. 플랑크는 에너지가 불연속적인 양자 단위로만 존재한다는 사실을 밝혔는데, 그 날짜가 바로 1900년 12월 14일 (MacTutor, Max Planck이다. 공간과 시간이 근본적으로 입자처럼 나뉘는지 여부는 여전히 미해결 문제다.

네 번째 전환 · 연속으로 완화한 뒤 다시 이산으로: 경우의 수가 너무 많아 전부 시도할 수 없을 때

상황: 선택지가 너무 많아 하나하나 모두 따져볼 수 없는 이산적 문제.

방법:선택지를 연속적인 값으로 간주해 매끄러운 문제로 풀고, 마지막에 다시 이산값으로 반올림한다. 최적화 분야에서는 이를 선형계획 완화(linear-programming relaxation)라고 부른다. 예/아니오로만 결정해야 할 변수를 0과 1 사이의 연속값으로 풀 수 있게 허용하는 것이다. 이때 발생하는 비용이 바로 integrality gap이다. 이는 최적의 이산 해와 연속 해 사이의 최악의 비율을 뜻한다(Wikipedia, Linear programming relaxation).

주방의 예(실제 계획은 아니고 설명을 위한 사례다)로 들면, 체인점의 최적화 프로그램은 한 매장에 2.7개의 달걀을 배정한다. 실제로 2.7개의 달걀을 주문하는 사람은 없지만, 프로그램은 매일 아침 그렇게 계산하고 마지막에 반올림한다.

머신러닝에서도 이 전환은 일상적으로 쓰인다.

• Gumbel-softmax 트릭은 이산적인 선택을 연속적으로 근사한 값에 그래디언트를 흘려보내는 방법이다. 이 기법은 2016년 한 주 사이에 두 연구팀이 독립적으로 발견했다(Jang, Gu & Poole (2016), Categorical Reparameterization with Gumbel-Softmax, arXiv 1611.01144; Maddison, Mnih & Teh (2016), The Concrete Distribution, arXiv 1611.00712).
• 양자화 인지 훈련(quantisation-aware training)은 훈련 과정에서 8비트 정수 반올림을 미리 시뮬레이션한다(이 역시 이 전환의 예: 이산 문제의 구조를 반영한 매끄러운 문제를 푸는 셈이다). 이렇게 하면 이후 실제로는 가중치와 활성값을 정수 연산만으로 처리할 수 있다(Jacob et al. (2017), Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference, arXiv 1712.05877)에서 실제로 이 하드웨어에서 돌리는 단계가 바로 3번 전환이다.

여기서 동기는 주로 사랑이지만, 진리를 얻을 수 있다면 그것도 함께 추구한다. LP relaxation에서는 연속적으로 푼 문제에서 실용적인 해와, 정수 해와의 최대 차이에 대한 엄밀한 경계값을 얻을 수 있다. 반면 Gumbel-softmax는 그런 경계를 제공하지 않는다. 이 기법의 그래디언트는 온도 파라미터에 따라 편향된 추정치일 뿐이며, 엔지니어들은 속도를 위해 이 점을 받아들인다.

이 회전은 일방통행이 아니다

네 번의 전환은 각각 따로따로인 요령이 아니다. 실제 문제를 풀다 보면 이 순환을 한 바퀴, 때로는 여러 번 돌게 된다.

언어 모델의 전체 과정:

1. 단어는 이산적인 토큰이다.
2. 학습 단계에서는 이 토큰들을 연속 벡터로 변환하고, 그래디언트로 가중치를 조정한다. 이게 바로 4번 전환, 즉 이산 문제를 연속 문제로 완화하는 과정이다. 일부 파이프라인에서는 학습 중에 정수 반올림을 미리 시뮬레이션하기도 하는데, 이것 역시 4번 전환에 해당한다.
3. 배포된 모델 상당수는 실제로 8비트와 같은 저정밀 정수로 서빙 하드웨어에서 동작한다. 이게 3번 전환, 즉 다시 기계가 동작할 수 있는 이산적 세계로 돌아오는 단계다. (16비트 부동소수점으로 서빙하는 모델도 많지만, 이 경우에도 결국 유한하고 이산적인 수의 집합에서 끝난다.)
4. 출력은 한 번에 하나씩 이산 토큰을 샘플링한다.

이산, 연속, 다시 이산: 여러분이 읽는 답변마다 한 바퀴씩 이 순환이 돈다.

교량 시뮬레이션의 경우:

1. 물리 법칙은 연속적이다.
2. 엔지니어는 교량을 유한한 요소, 즉 이산적인 메시(3번 전환)로 쪼갠다.
3. 그리고 그 메시를 점점 더 잘게 쪼개면서, 조각이 작아질수록 해가 안정적으로 수렴하는지 확인한다(1번 전환, 극한).

최종적으로 얻은 수치에 대한 신뢰는, 이 순환을 한 바퀴 돌며 그 결과가 일관됨을 직접 확인한 데서 나온다.

이런 순환 구조는 실제로 세 가지 동기가 어떻게 작동하는지도 설명해준다:

• 아름다움과 진리는 문제를 전체적으로 보거나 증명할 수 있는 쪽으로 문제를 이끈다.
• 사랑은 누군가 실제로 쓸 수 있는 쪽으로 문제를 이끈다. 3번 전환에서는 기계가 쓸 수 있는 유한한 메뉴, 4번 전환에서는 해석기가 다룰 수 있는 연속 문제로 옮긴다.

실습 3 · 코드로 경계(힌지)를 관찰하기

import math
g = 0.5772156649015329   # Euler-Mascheroni constant
for n in (10, 100, 1000, 10**6):
    H = math.fsum(1/k for k in range(1, n+1))
    print(n, H - (math.log(n) + g), 1/(2*n))
n = 100   # coin flips: exact count vs bell curve
exact = sum(math.comb(n, k) for k in range(56)) / 2**n
Phi = lambda z: 0.5*(1 + math.erf(z/math.sqrt(2)))
print(exact, Phi((55.5 - 50)/5))

여기서 γ는 오일러–마스케로니 상수(0.5772…)로, 1 + 1/2 + … + 1/n이 ln n보다 장기적으로 얼마나 더 큰지를 나타낸다. 그 차이는 0.0492, 0.00499, 0.000500, 0.000000500으로 나온다. 매번 거의 정확히 1/(2n)이다(계산 결과). 동전 예제에서는 100번 던져서 55번 이하 앞면이 나올 확률을, 직접 세어서(0.864373)와 연속 곡선(벨 커브)에 반 스텝 연속성 보정을 적용해(0.864334) 각각 계산한다. 이것이 두 끝 사이의 경계, 즉 오일러–맥로린 공식이다. 이 공식은 합과 적분이 항마다 정확히 어떻게 다른지 알려준다. 오일러와 맥로린은 이를 독립적으로 발견했다,1735년경 (Wikipedia, Euler-Maclaurin formula) 남은 1/(2n)은 바로 다음 항이다. 크로네커는 이렇게 말했다고 전해진다: "God created the integers, all else is the work of man." (번역: 신은 정수를 창조했고, 그 외의 모든 것은 인간의 작품이다.)" (MacTutor, Leopold Kronecker (an attributed remark, reported second-hand)) 이 경첩 공식은, 이산과 연속의 두 세계가 서로 논쟁하는 것보다 훨씬 더 가까이 맞닿아 있음을 보여준다.

진리, 사랑, 아름다움: 수학자가 왜 전환을 만드는가

네 번의 전환은 단순한 요령이 아니다. 각각은 분명한 이유가 있고, 그 동기는 세 갈래로 나뉜다.

• 진리: 전환은 어떤 사실을 증명하기 위해 쓰인다. 2번 전환이 대표적이다. 곡선이 소수의 분포에 대한 최초의 증명을 안겨주었다. 4번 전환에서는 LP 완화에서 경계값을 얻는다. 즉, 반올림된 답이 실제로 얼마나 멀어질 수 있는지 보증한다.
• 사랑: 전환은 누군가를 실제로 돕기 위해 등장한다. 3번 전환이 있는 이유는 사람들이 음악 파일, 안전한 다리, 제대로 작동하는 스캐너를 필요로 하기 때문이다. 4번 전환은 내일의 달걀 주문을 오늘 밤에 미리 세워야 하는 계획자를 위해 존재한다.
• 아름다움: 전환은 수많은 경우를 하나로 꿰어낸다. 1번 전환은 백만 번의 동전 던지기를 하나의 곡선으로 압축한다. 경첩 공식은 온갖 합의 표를 ln n + γ + 1/(2n)으로 요약한다. Hardy는 이것을 수학 전체의 기준선으로 삼았다: "Beauty is the first test: there is no permanent place in the world for ugly mathematics." (번역: 아름다움이 첫 번째 기준이다. 추한 수학이 세상에 영원히 머물 곳은 없다.)" (Hardy (1940), A Mathematician's Apology).

이 세 가지 동기 중 어느 하나만으로 밀고 나가면, 각기 다른 방식으로 실패한다:

• 진리만 있고 사랑이 없는 경우 누구도 실제로 계산할 수 없는 존재 증명만 남는다. 최고의 달걀 계획이 존재한다는 사실만으로는, 내일 아침 식탁에 달걀이 오르지 않는다.
• 사랑만 있고 진리가 없는 경우 검증 없이 신뢰만 하는 답을 낳는다. 옵티마이저가 각 매장에 2.7개의 달걀을 3개로 반올림해 보내면, 간극을 따지지 않은 채 실제 계획보다 11% 더 많은 달걀이 배송된다(계산: 3 ÷ 2.7). 각 매장에는 친절하지만, 창고 바닥은 오믈렛 천지가 된다.
• 아름다움만 있고 진리가 없는 경우 멋지지만 아직 증명되지 않은 논증만 남는다. 오일러가 π²/6을 처음 유도했을 때(작성 1735)는 아무도 정당화할 수 없는 단계를 썼다. 그가 스스로 납득한 증명은 1741 (Wikipedia, Basel problem). 답은 맞았지만, 아름다움이 진실보다 먼저 도착했다.

여기서 펼치는 관점은 내 개인적인 해석이다. 나는 진리, 사랑, 아름다움이 하나의 실재의 세 얼굴이며, 내 신앙에서는 한 인격의 세 모습이라고 본다. 위의 체크리스트를 쓰는 데 이 믿음이 필요하지는 않다. 다만, 수학이 세상에 꼭 들어맞는다는 점에서 Wigner가 관찰한 바를 당신도 느낄 수 있을 것이다. 그는 이를 "a wonderful gift which we neither understand nor deserve"(번역: 우리가 이해하지도, 받을 자격도 없는 놀라운 선물)" (Wigner (1960), The Unreasonable Effectiveness of Mathematics in the Natural Sciences, Comm. Pure Appl. Math. 13(1)).

숫자에도 두 가지 모습이 있을까?

이 에세이가 실험한 시리즈는 '몸'이라는 렌즈를 썼다:

• 사물을 하나로 묶는 정신;
• 뼈, 살, 피부처럼 겹겹이 쌓인 층;
• 두 가지 형태, 입자처럼 이산적인 것과 흐름이나 파동처럼 연속적인 것.

이 글은 바로 그 마지막 줄을 펼쳐 보인 것이다. 이 렌즈는 두 형태가 각 층을 가로지르는 축이지, 그 자체가 별도의 층은 아니라고 본다. 실제로 네 번의 전환은 연구 대상(예: 소수의 개수, 소리, 달걀 주문)은 그대로 두고, 형태만 바꾼다는 점을 보여 준다.

이 렌즈는 물리학이 아직 미해결인 지점에서 멈춘다. 플랑크의 양자는 에너지를 알갱이로 만들었지만, 양자 이론은 여전히 연속적인 파동을 쓴다. 공간과 시간이 정말 알갱이로 이루어졌는지는 아직 모른다. 수학은 어느 한쪽을 고집하지 않는다. 문제에 따라 두 형태를 모두 품고, 필요할 때마다 오간다.

이 아이디어, 네 시기에 걸쳐

이 플레이북은 모든 나이에 통하는 하나의 아이디어를 요구한다. 여기 네 가지 크기로 정리했다. 마지막 것만 이 글에서 자세히 다룬다.

이야기는 같고, 선택지는 다섯 가지

절반만 맞는 오해들

• "컴퓨터는 실수(real number)로 계산한다." 실제로 컴퓨터는 직선을 대신하는 유리수의 유한한 목록으로 계산한다. 본능적으로 그렇게 느끼는 이유는 그 목록이 워낙 정교해서지만, 실제 실수는 그 안에 거의 없다.
• "Calculus was rigorous from the start."(번역: 미적분학은 처음부터 엄밀했다고들 한다.) 실제로는, 증명보다 훨씬 먼저 방법이 먼저 통했다. 데데킨트의 연속체 개념이 등장한 것은 1872, 라이프니츠 이후 거의 200년이 지나서였다.
• "Discrete math is the computer kind and continuous math is the physics kind."(번역: 이산수학은 컴퓨터의 영역이고, 연속수학은 물리의 영역이라는 통념이 있다.) 위에서 살펴본 네 번의 전환은 모두 그 경계를 가볍게 넘는다. 소수는 미적분으로 처음 길들여졌고, 물리학은 양자를 발견했다.

이제 직접 설명해보자

왜 중요한가: 다섯 번의 '왜'로 파고들기

문제: 학생들은 이산수학과 미적분을 완전히 별개의 과목으로 배우다가, 어느 날 합이 적분을 따라가거나 곡선이 소수에 대한 사실을 증명하는 장면을 보고 당황한다.

1. 왜 놀랄까? 그 전환의 순간을 한 번도 경험하지 못했기 때문이다. 각 과목은 한쪽에만 머물러 있고, 두 영역을 잇는 다리들은 실제로는 이름과 연도가 붙은 정리임에도 불구하고 우연처럼 보인다. 예를 들어 de Moivre의 경우처럼 (1733 (MacTutor, Abraham de Moivre).
2. 왜 각 과목은 한쪽에만 머무는가? 학과와 강의계획이 주제별로 나뉘어 있기 때문이다. 여기서는 조합론, 저기서는 해석학. Δ/Σ와 d/dx/∫ 사이의 거울은 어느 쪽에도 속하지 않는다 (Weisstein, MathWorld, Finite Difference).
3. 왜 그 거울이 중요한가? 바로 그 거울 위에서 전환이 일어나기 때문이다. 오일러–맥클로린, 스털링, 생성함수 모두 이 경계를 넘는 방식이다 (Wilf, generatingfunctionology).
4. 왜 이 경계 넘기가 현업 엔지니어에게 중요한가? 그들이 쓰는 도구가 바로 이 전환 위에 있기 때문이다. 예를 들어 샘플링 오디오 (Shannon (1949), Communication in the Presence of Noise, Proc. IRE 37(1)), 완화 기법을 적용한 최적화 도구(Wikipedia, Linear programming relaxation), 양자화 모델(Jacob et al. (2017), Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference). 자신이 어떤 전환 위에 있는지 모르면, 실패 원인—에일리어싱, 정수성 갭, 반올림 오차—이 어디에 숨어 있는지 파악할 수 없다.
5. 문제의 뿌리: 전환들이 전체 구조나 지도 없이 개별 요령처럼만 가르쳐진다. 이 글의 해법은 명확하다. 어떤 도구든, 그 도구가 기반한 전환, 그 전환을 촉발한 조건, 사용된 기법, 그리고 동기를 한 줄로 정리하면, 점검해야 할 지점을 자연스럽게 알 수 있다.

실전 체크리스트: 이번 주에 직접 해볼 것

1. 미리 가르칠 내용을 먼저 읽는다.
2. 슬라이드를 세어본다(1번 활동, 3분).
3. 네 개 직사각형으로 계단을 그리고, 이어서 Two Ends Playground의 첫 번째 데모에서 슬라이더를 100까지 옮겨본다(10분).
4. 힌지 코드를 실행해보고, 세 번째 데모와 비교한다(5분).
5. 내가 쓰는 도구(오디오 포맷, 솔버, 양자화 모델 등) 중 하나를 골라, 그 도구의 전환, 조건, 기법, 동기, 그리고 발생 가능한 오류를 한 줄로 정리한다.
6. 계단에서 미끄럼틀로 이어지는 개념을 15세에게 설명한다.

확인 방법: 내가 제대로 이해했는지 점검하는 기준

아무런 참고 없이 다음 세 가지를 할 수 있다:

1. 네 가지 전환 각각과 그 예시를 하나씩 말할 수 있다.
2. 1 + 1/2 + … + 1/n과 ln n + γ의 차이를 예측할 수 있다(대략 1/(2n)).
3. 내가 쓰는 도구 하나에 대해, 그 전환이 불러오는 실패 원인을 설명할 수 있다.

이 체크리스트로는, 실제로 코드베이스에서 전환을 즉각 알아차릴 수 있는지까지는 측정하지 못한다. 하지만 위의 한 줄 도구 점검 습관이 그 감각을 길러준다.

예방선: 미리 정하는 점검 포인트

• 신호를 샘플링한다면, 먼저 그 신호의 최고 주파수를 반드시 기록해둔다.샘플링 정리는 신호에 더 높은 주파수가 없다고 전제한다. 실제 신호를 샘플링하려면 먼저 필터링이 필요하다.
• 완화 문제의 해를 반올림했다면, 그 차이를 반드시 함께 보고해야 한다.경계(오차) 없는 답은 진리 없는 사랑과 같다.
• 논증이 아무리 아름다워도, 단계별 검증이 없다면 그 전까지는 '추측'으로 불러야 한다.오일러의1735논증이 그 점을 일깨운다.

5S 자기 점검표

참고문헌

1. Aristotle.Categories, Part 6, tr. E. M. Edghill.classics.mit.edu
2. Huggett, N. "Zeno's Paradoxes."Stanford Encyclopedia of Philosophy. plato.stanford.edu
3. Bell, J. L. "Continuity and Infinitesimals."Stanford Encyclopedia of Philosophy. plato.stanford.edu
4. O'Connor, J. J. & Robertson, E. F. "Richard Dedekind." MacTutor.mathshistory.st-andrews.ac.uk
5. O'Connor, J. J. & Robertson, E. F. "Georg Cantor." MacTutor.mathshistory.st-andrews.ac.uk
6. "Cantor's diagonal argument." Wikipedia.en.wikipedia.org
7. "Hermann Weyl." Stanford Encyclopedia of Philosophy. plato.stanford.edu
8. O'Connor, J. J. & Robertson, E. F. "The rise of calculus." MacTutor. mathshistory.st-andrews.ac.uk
9. O'Connor, J. J. & Robertson, E. F. "Bernhard Riemann." MacTutor. mathshistory.st-andrews.ac.uk
10. Weisstein, E. W. "Finite Difference." MathWorld. mathworld.wolfram.com
11. Graham, R. L., Knuth, D. E. & Patashnik, O. Concrete Mathematics, publisher description. informit.com
12. O'Connor, J. J. & Robertson, E. F. "James Stirling." MacTutor. mathshistory.st-andrews.ac.uk
13. O'Connor, J. J. & Robertson, E. F. "Abraham de Moivre." MacTutor. mathshistory.st-andrews.ac.uk
14. O'Connor, J. J. & Robertson, E. F. "Siméon Poisson." MacTutor. mathshistory.st-andrews.ac.uk
15. Riemann, B. (1859). On the Number of Primes Less Than a Given Magnitude, tr. D. R. Wilkins. maths.tcd.ie
16. Weisstein, E. W. "Prime Number Theorem." MathWorld. mathworld.wolfram.com
17. Euler, L. E41, "De summis serierum reciprocarum." Euler Archive. scholarlycommons.pacific.edu
18. "Basel problem." Wikipedia. en.wikipedia.org
19. Wilf, H. S. generatingfunctionology. math.upenn.edu
20. Shannon, C. E. (1949). Communication in the presence of noise. Proc. IRE 37(1). PDF
21. Cooley, J. W. & Tukey, J. W. (1965). An algorithm for the machine calculation of complex Fourier series. Math. Comp. 19(90). Crossref
22. O'Connor, J. J. & Robertson, E. F. "Richard Courant." MacTutor. mathshistory.st-andrews.ac.uk
23. IEEE 754-2019, Standard for Floating-Point Arithmetic. standards.ieee.org
24. O'Connor, J. J. & Robertson, E. F. "Max Planck." MacTutor. mathshistory.st-andrews.ac.uk
25. "Turing Machines." Stanford Encyclopedia of Philosophy. plato.stanford.edu
26. "Linear programming relaxation." Wikipedia. en.wikipedia.org
27. Jang, E., Gu, S. & Poole, B. (2016). Categorical Reparameterization with Gumbel-Softmax. arXiv:1611.01144
28. Maddison, C. J., Mnih, A. & Teh, Y. W. (2016). The Concrete Distribution. arXiv:1611.00712
29. Jacob, B. et al. (2017). Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference. arXiv:1712.05877
30. Hardy, G. H. (1940). A Mathematician's Apology. archive.org
31. O'Connor, J. J. & Robertson, E. F. "Leopold Kronecker." MacTutor. mathshistory.st-andrews.ac.uk
32. Wigner, E. P. (1960). The Unreasonable Effectiveness of Mathematics in the Natural Sciences. Comm. Pure Appl. Math. 13(1). PDF
33. Kobayashi, K. (2024). Interactive learning effects of preparing to teach and teaching. Educational Psychology Review. ERIC EJ1414484

관련 글