멍텅구리 계산기에 ‘뇌’를 접목... ‘논리 기계’로 바꿨다

[홍익희의 新유대인 이야기][18] 현대 컴퓨터의 아버지 존 폰 노이만

홍익희 전 세종대 교수

https://www.chosun.com/nsearch/?query=%ED%99%8D%EC%9D%B5%ED%9D%AC

 

오늘날의 컴퓨터를 만든 사람은 컴퓨터 공학자가 아니라 수학자인 요한 폰 노이만(John von Neumann·1903~1957)이다. 프린스턴 고등연구소는 평생 자신이 하고 싶은 일을 할 수 있는 꿈의 연구소이다. 그곳의 첫 종신 교수가 앨버트 아인슈타인과 폰 노이만이었다. 둘 다 유대인이다. 아인슈타인이 대중에게 더 잘 알려져 있지만 폰 노이만이 우리 실생활에 더 많은 도움을 주었다. 폰 노이만은 수학자이자 동시에 화학, 물리학, 생물학, 컴퓨터공학, 경제학, 통계학에도 정통했다. 그는 원자폭탄과 수소폭탄 개발에 결정적 공헌을 했을 뿐 아니라 핵무기 개발을 돕기 위해 탄생한 컴퓨터를 보고 그 원시적 작동 방법에 일대 혁신을 가해 현대식 컴퓨터를 만들었다. 이 외에도 그는 경제학의 ‘게임이론’을 창안했을 뿐 아니라 물리학의 ‘양자역학’에 크게 공헌했고, 오늘날 ‘인공지능’ 개념의 창시자이다. 어떻게 한 사람이 이렇게 다양한 분야의 위대한 업적을 이루어낼 수 있었을까?

폰 노이만을 키워낸 아버지의 밥상머리 교육

1956년의 폰 노이만. 그가 프로그램 내장 컴퓨터에 관해 특허를 내지 않은 덕분에 컴퓨터 기술은 인류의 공동 자산이 되었다. /위키피디아

 

존 폰 노이만은 1903년 헝가리 부다페스트에서 부유한 유대 금융인의 맏아들로 태어났다. 존을 위대한 과학자로 만든 건 그의 아버지 막스 노이만의 정성이었다. 막스는 유대인답게 밥상머리 교육에 철저했다. 그는 저녁뿐 아니라 점심에도 집에 들어와 어린 자녀들과 함께 식사하며 많은 이야기를 나누었다. 막스는 긴요한 손님이 있을 때도 외식하지 않고 손님을 집으로 초대해 아이들과 함께 식사하며 어른들의 이야기도 듣게 해주었다. 아이의 단어 습득은 식사 자리에서 절반 이상이 이루어진다는 연구 결과가 있다. 보통 아이들이 만 네 살에 800~900단어를 인지할 때 밥상머리 교육을 받은 유대인 아이는 1500단어 이상을 안다고 한다. 이 차이는 크면서 점점 더 벌어진다.

존의 할아버지는 일곱 언어에 능통했다. 박해를 피해 떠돌이 생활을 했던 유대인들은 외국어 습득과 남다른 지식 보유가 그들을 사지에서 구해줄 수 있다고 믿었다. 막스도 아이들을 위해 라틴어, 영어, 수학 등의 가정교사들을 모셔 개인 교습을 시켰다. 아들의 지적 호기심이 남다른 것을 발견한 막스는 다양한 언어와 학문을 조기 교육했으며 많은 책을 사주었다. 그런데 존의 지적 호기심이 무척 강해 웬만한 책으로는 그의 지적 욕구를 채울 수 없었다. 막스는 아예 경매에 나온 도서관을 낙찰받아 아들 방을 책이 가득 찬 도서관식 서재로 만들어주었다. 존은 자기 방에 처박혀 46권짜리 세계사 전집과 심지어는 백과사전을 통째로 섭렵해나갔다.

존은 7국어를 익혔으며 독서 몰입도와 이해도가 남달랐다. 그는 역사를 좋아했고 수학에 대한 이해가 빨랐다. 존은 여덟 살에 영재들이 다니는 김나지움에 들어갔다. 학생들의 70%가량이 유대인으로 훗날 동창 중에서 노벨상 수상자가 대거 배출됐다. 그런 천재들 사이에서도 존은 군계일학이었다. 여덟 살 때 미적분을 풀었으며, 열 살 때 1년 선배인 유진 위그너(1963년 노벨물리학 수상자)에게 집합론과 정수론을 가르쳐줄 정도였다. 존에게 더 이상 가르칠게 없다고 판단한 수학 선생님은 당대의 수학자들에게 존이 고등 미적분을 배우도록 배려해주었다. 존은 열두 살 때 대학원 수준의 함수론을 독파했으며, 열일곱 살 때 논문을 쓰기 시작해 수학자로 이름을 날렸다.

‘에니악’ 같은 초기 컴퓨터는 거대한 방 하나를 다 채울 정도로 덩치가 큰 계산기였다. 하지만 중앙연산장치에 기억장치를 붙여 미리 저장된 프로그램을 실행하고 데이터를 처리하는 ‘폰 노이만 구조’가 적용되면서 비로소 ‘뇌’를 갖게 된다. 미국 일리노이주 아르곤 국립 연구소에서 1953년 가동되기 시작한 폰 노이만 구조의 컴퓨터 ‘AVIDAC’을 조작하는 컴퓨터 과학자 진 F 홀의 모습. 헝가리 태생의 유대인 존 폰 노이만은 미국으로 건너가 원자탄 개발에 결정적 공헌을 하고, 경제학의 ‘게임이론’을 창안했으며, ‘양자역학’에 공헌하고, 오늘날의 ‘인공지능’ 개념을 창시했다. 그 바탕에도 유대인 특유의 ‘밥상머리 교육’과 뜨거운 교육열이 있다. /미국 에너지부·위키피디아

대입 5년 만에 세 전공 이수, 박사 학위

존은 부다페스트 대학 수학과에 진학하고 싶었으나 아버지는 당시 눈부시게 성장하는 화학공학을 택해주길 바랐다. 존은 자신의 희망과 아버지의 뜻을 모두 충족할 방안을 찾아 1921년 부다페스트 대학에 진학해 수학을 전공하는 한편 취리히 스위스연방 공대에서 화학공학을 배우기로 했다. 부다페스트 대학은 시험 때만 출석해 최고 점수를 받았고, 주로 베를린 대학에서 수업을 들었다. 이후 취리히 대학으로 옮겨 화학공학을 전공했다. 동시에 그는 부다페스트 대학에서도 수학 전공과 물리학, 화학 부전공으로 5년 만인 1926년에 수학 박사 학위까지 끝냈다. 이때 이미 수학 기초론과 논리학에서 가장 유명한 수학자가 되었다.

존은 1926년 23세에 베를린 대학의 최연소 수학 교수가 되었다. 포커 게임을 좋아했던 그는 1928년 ‘실내 게임이론’ 책을 펴내 게임이론의 창시자가 되었으며, 독일 과학자들과 교류하며 수학 이론을 양자론에 적용하여 ‘양자역학의 수학적 기초’를 출간했다. 이렇게 그의 연구 주제는 다양했다. 그는 유대인답게 동료 학자들과 함께 연구하기를 즐겼다. 둘 이상이 함께 연구하며 토론할 때 개인의 독단과 편견에서 벗어날 수 있고, 불꽃 튀는 토론 속에서 새로운 깨달음과 창의성이 발현되는 등 시너지가 크다고 믿었다. 그는 수학을 경제학과 물리학에 접목해 새로운 이론들을 창시했다. 천재 학자로서 그의 명성은 전 세계로 퍼져 나갔다.

 

29세에 프린스턴 고등연구소 종신 교수

1929년 미국 프린스턴대학의 베블런 교수가 존에게 양자역학 강의를 해달라고 초빙해 객원교수가 되었고, 1932년에는 아인슈타인과 함께 프린스턴 고등연구소 최초의 종신 교수가 되었다. 당시 그의 나이 29세였다. 그곳에서 아인슈타인은 우주를 통일적으로 설명할 수 있는 ‘통일장 이론’을, 괴델은 신을 수학적으로 증명하고자 하는 연구에 빠져 별 다른 성과를 내지 못할 때, 가장 활발하게 연구 논문을 발표한 사람이 폰 노이만이었다. 그는 일생 순수수학 논문 60편을 발표했다. 하지만 그의 관심은 순수 학문에만 머물러 있지 않았고, 응용수학 논문 60편과 물리학, 경제학 등 다양한 분야의 논문 30편도 발표했다. 그렇다고 그가 연구만 하는 모범생은 아니었으며, 오히려 사교적이고 자유분방했다. 주변 사람들과 자주 파티를 열어 즐겼으며, 음악을 크게 틀어놓고 연구하고, 페라리 스포츠카를 타고 다녔다. 그 무렵 폰 노이만은 워낙 유명해 IBM, GE 등 대기업들, 또 군과 CIA를 대상으로 한 컨설팅 업무로 경제적으로도 부유했다.

폰 노이만은 1943년 핵무기를 개발하는 ‘맨해튼 프로젝트’에 참여해 일했다. 그러는 동안에도 친구이자 경제학자인 모르겐슈테른과 함께 쓴 ‘게임이론과 경제 행태’를 이듬해 출간해 게임이론 발전에 본격적인 시동을 걸었다. 이후 수소폭탄 실험 참가 때 피폭해 골수암과 췌장암에 걸렸다. 그는 죽음을 앞두고 가톨릭에 귀의하고 연구에 몰입했다. DNA와 RNA 구조를 최초로 예견하고 생물체와 기계의 결합 연구를 통해 인공지능 연구의 창시자가 되었다. 하지만 연구를 완성치 못하고 1957년 53세에 눈을 감았다. 그의 사후에 미완성 연구가 ‘컴퓨터와 뇌’라는 책으로 출간되어 후학들에게 방향을 제시해 주었다.

1943년 미 펜실베이니아대에서 군사 목적으로 개발한 초기 컴퓨터 ‘에니악(ENIAC)’의 모습. 계산만 할 뿐 기억 장치가 없었던 문제를 해결하기 위해 폰 노이만은 저장된 프로그램으로 데이터를 처리하는 방식을 고안했다. /위키피디아

특허 안낸 ‘폰 노이만 구조’, IT산업 성장에 큰 공헌

‘맨해튼 프로젝트’ 참여 당시, 폰 노이만은 미군이 미사일 등의 탄도, 탄착점, 폭발력 등을 계산하기 위해 초대형 계산기 ‘에니악’을 개발하고 있다는 사실을 알게 되었다. 에니악은 1만8000여 진공관과 계전기 1500개를 장착한 무게 약 30톤의 거대한 기계였다. 그런데 이 초기 컴퓨터는 계산만 할 줄 알았지 기억 능력이 없었다.

폰 노이만은 에니악에 문제가 많다고 보았다. 이 컴퓨터에 일을 시키려면 외부 프로그램 방식이라 새로운 일을 할 때마다 사람들이 수천 개의 배선판 전기회로를 며칠 걸려 다시 세팅해야 했다. 이를 본 폰 노이만은 컴퓨터 공학자도 풀지 못하는 문제를 해결하기 위해 획기적 이론을 개발했다. 바로 ‘프로그램 내장 컴퓨터’가 그것이다.

중앙처리장치(CPU) 옆에 기억장치(Memory)를 붙여, 프로그램과 데이터를 저장해 놓았다가 사람이 실행시키는 명령에 따라 작업을 차례로 불러내어 처리하는 개념이었다. 이로써 그는 계산 기능만 있는 멍텅구리에 뇌를 만들어 붙여 ‘논리 기계’로 탈바꿈시킴으로써 컴퓨터에 생명력을 불어넣었다. 이렇게 해서 1950년에 탄생한 에드박(EDVAC)이 최초의 프로그램 내장 컴퓨터였다. 스마트폰을 포함한 현재의 컴퓨터도 이 ‘폰 노이만 구조’가 기본이 되었다.

폰 노이만은 프로그램 내장 컴퓨터에 대한 특허를 내지 않아 연구 업적이 고스란히 인류 공동 자산이 되었다. 그가 특허를 냈다면 IBM 수익의 반은 폰 노이만 몫이라는 이야기가 있다. 덕분에 현대식 컴퓨터는 싸고 빠르게 전파되어 인터넷과 디지털 기술, IT 산업이 빠른 속도로 발전할 수 있었다.