우리는 종종 납득할 수 없는 사실들을 직면한다. 그리고 이러한 사실들을 받아들일 때 우리는 큰 폭으로 성장한다. 그런데, 우리는 어떠한 사실들을 납득하기 어려울까?

당연히 기존에 내가 쌓아왔던 상식으로 도출할 수 없는 것일 때 그렇다. 우리의 지식은 그러하다. 하나하나 쌓아올리는 것이다. 지식에 순서가 있다는 것이다.

하지만 현재의 LLM은 그러한 것을 간과하고 있다. 모든 텍스트들을 병렬적으로 학습시킨다. 그렇기 때문에 학습이 어렵다. 돈도 많이 든다. 대체 누가 이렇게 공부를 하겠는가? 아무도 그렇게 하지 않는다.

인간처럼 AI도 단계적인 학습을 해야 한다. 받아들일 수 있는 정보와 그럴 수 없는 정보를 스스로 분간한 후, 어떻게 해야 해당 정보를 받아들일 수 있는가에 대해 판단하고 정보를 서치하는 식으로 가야한다. 문제는 이것이 AI가 이미 그러한 판단 능력과 논리적 능력을 가지고 있다고 전제하는 데에 있다.

현재 LLM 또한 부족한 논리적 능력을 가지고 있다. 이것을 어떻게 채울 수 있을까?

정보의 신뢰성 판단을 통해 가중치를 선별적으로 학습하는 것도 하나의 방법일지 모른다. 하지만, 논리적 능력에 대해서는 부족하다. 논리적 능력과 추론과 우리의 뇌에서 논리적 생각을 처리할때에 대해 고민해보자.