open problem

수학과 학생들 사이에서 잘 알려진 이야기가 있다. 미국의 어떤 대학교 2학년 수학과 학생이 있었다. 어느날 그 학생은 수업 시간에 늦었다. 약간 늦게, 수업의 중간에 들어간 그 학생은 교수님 말씀을 별로 듣지 못하고 칠판에 적혀있는 2개의 문제를 노트에 적었다. 수업은 듣지 못했어도 숙제는 제대로 해야겠다고 그는 생각했다.

이 학생은 집에 와서 2개의 문제를 열심히 풀었다. 며칠 동안 열심히 풀었지만 2문제 중 한 문제 밖에 풀지 못했다. 풀이 죽은 학생은 고개를 들지 못하고 교수님께 찾아가 리포트를 제출했다. 이 학생의 리포트를 본 교수님은 깜짝 놀라면서 말씀하셨다.

“이 문제는 네가 풀 수 있는 문제가 아니란다. 그런데 네가 이걸 풀다니, 놀랍구나.”

상황은 이랬다. 교수님은 수업 중에 세계적인 석학들이 ‘이건 잘 풀리지 않는다’고 공개한 문제(open problem)를 학생들에게 소개한 것이다. 몇 십년 동안 아무도 풀지 못한 문제를 대학교 2학년 학생이 숙제인지 알고 풀었던 것이다.