CoOp과 같은 컨텍스트 학습에서 개수를 고정하는 것을 볼 수 있다.

그러나 사람은 어떤 이야기의 나열, 즉 에피소드를 정리할때 에피소드마다 적절한 개수의 컨텍스트로 잘라서 기억한다. 그것이 사건의 논리적 분할이다.

하지만 CoOp의 경우, (그리고 트랜스포머 계열의 원리 상, 요약 토큰은 하나.) 이처럼 컨텍스트를 정리하는 토큰의 개수는 고정적이다.

이를 동적으로 적절히 분할 할 수 있을까? 만약 동적으로 분할한다면 현재의 워드 임베딩 토큰 형식을 대체할 방안이 있을까?

Q 워드 임베딩 벡터의 two-elementwise dot product와 MLP가 수학적으로 차별점이 있을까?