작성일 : 2022. 10. 08. 토요일 10:45

현재 NLP 언어모델의 수준은 문장력이 좋은 초등학생에 불과하다.
만약, 그 이상의 수준으로 나아가고 싶다면, LaMDA는 자기 자신이 무슨 말을 하는지에 대해 “이해”하고 있어야만 한다.
그것을 위해선, 맥락을 이해해야 하며, 그 이전에 한 문장 한 문장의 이해가 선행되어야 한다.
그리고 문장은 단어간의 연결로써 탄생하게 된다. 따라서, 단어에 대한 이해도 필요하다.

여기서 이해란,
네트워크를 뜻하는게 아닐까 싶다.
만약, 챗봇으로서의 LaMDA만을 생각한다면, 이해력은 충분하지 않을까? 하지만, 이 세상은 채팅만으로 이루어져 있지 않다.
따라서, LaMDA에게 필요한 “이해”라는 것은, 한층 높은 차원의 것을 이야기 하는 것이다.
유클리드 기하학의 공리에 따르면, 점은 직선 상에서 위치만 존재하며, 길이 = 0 으로 전제된다. 나는 그것을 차원의 존재성 자체로 이해할 수 있다고 생각한다. LaMDA는 현실의 다층성에 빗대어 볼때, 그 존재성을 0이라 말할 수 있다. 하지만 다른 모든 차원을 상수로 두고, 단 하나, 챗봇으로서의 존재성만을 다룬다면, 그 길이가 0이 아니라는 생각을 했다. (여기서 차원은 물리적 차원의 의미를 지닌다.)
뭔가 입체적 구상이 이뤄지고 있다.

그러니까, 내가 실존적으로 말하고 싶은 바는
LaMDA가 예컨대 “사과” 라는 단어를 보면서, 이에 대한 오감적인 정보를 떠올릴 수 있어야 한다는 것이다.