뇌에 습관이 '스며드는' 과정

가장 달갑지 않은 흔한 습관 중 하나는 손톱 물어뜯기다. 아동의 절반가량과 청년층의 20퍼센트 정도가 이 행동을 보인다. 나도 아내가 손톱 밑에 어떤 박테리아가 있는지 지적하기 전까지는 오랜 세월 손톱을 물어뜯는 버릇이 있었다(혐오스러운 이야기를 굳이 자세히 들려주지는 않겠다). 다른 수많은 운동 습관과 마찬가지로 손톱 물어뜯기의 특징은 실제로 그것을 하고 있다는 사실을 인지하지 못할 때가 많다는 것이다. 그 이유는 시간이 흐름에 따라 두뇌에 습관이 형성되는 방식에서 찾을 수 있다.

1. 미상핵 2. 렌즈핵 3. 편도체 4. 중심고랑 5. 외측고랑

습관이 형성되는 과정을 이해하기 위해서는 우선 기저핵의 구조를 깊이 파헤칠 필요가 있다. 제2장에서 선조체는 피질선조체 고리로 알려진 회로로 대뇌피질과 연결되어 있다고 한 것을 기억할 것이다. 습관의 형성을 이해하는 데 이 고리의 구조는 두 가지 면에서 중요하다. 첫째로, 이 고리의 구조가 상당히 구체적으로 형성되어 있어 처음 선조체의 인풋이 발생했던 대뇌피질의 위치와 거의 같은 장소로 고리의 아웃풋이 되돌아간다는 점이다. 둘째로, 기저핵의 각기 다른 영역은 전두엽의 각기 다른 영역에서 인풋을 받지만 이 인풋들이 무작위가 아니라는 점이다. 대뇌피질의 특정 영역은 기저핵의 특정 영역과 연결되어 있다. 앞에서 잠시 언급했던 것처럼, 이 사실이 중요한 이유는 전전두피질의 서로 다른 영역이 서로 다른 기능에 관련하기 때문이다. 운동피질이라고 불리는 전두엽의 보상 영역은 움직임의 발생에 관여하고, 운동피질이 기저핵에 투사될 때는 주로 조가비핵이라 알려진 선조체의 영역을 향한다. 배외측 전전두피질은 계획이나 작업 기억에 정보를 담아두는 등의 고차원적 인지 기능을 담당한다. 배외측 전전두피질은 기저핵 영역 중 미상핵이라는 좀 더 앞쪽에 위치한 부위에 투사한다. 마지막으로 눈 바로 위에 자리한 전전두피질 영역인 안와전두피질은 (보통 '정서적' 기능이라고 알려진) 감정적, 사회적 기능에 주로 관여하고, 기저핵의 측좌핵이라는 영역에 투사한다.

우리가 아는 사실은 기저핵 각각의 영역이 습관 형성에 각기 다르게 관여한다는 것이다. 초기 연구에서는 쥐의 기저핵 내 각기 다른 영역을 상호호환적으로 여긴 반면, 2004년과 2005년 UCLA의 헨리인, 바버라 놀튼, 버나드 발레인이 행한 연구는 기저핵의 각기 다른 영역이 습관 형성에 다른 역할을 한다는 점을, 적어도 먹이를 얻기 위해 버튼을 누르는 것이나 손톱을 물어뜯는 운동 습관에서는 그렇다는 사실을 밝혔다. 또한 쥐에게서 인간의 미상핵과 유사한 영역은 목표 지향적(이들의 표현댈는 '행동-결과') 학습에 관여하는 것으로 드러났다. 인과 놀튼은 이후 두뇌에서 습관 학습이 어떻게 진행되는지를 이해하기 위해 한 가지 프레임워크를 개발했다. 습관 학습은 처음에는 배외측 전전두피질과 미상핵이 연결된 '인지적' 피질선조체 고리를 통해 목표 지향적 학습으로 시작한다. 시간이 흐르며 운동피질과 조가비핵을 포함하는 '운동' 회로가 습관을 배우기 시작하고 결국 인지 고리를 대체한다.

이 같은 인지적 회로에서 운동 회로로의 전이는 선조체가 도파민 시스템에 연결되는 특정한 방식에서 기인한다. 도파민 세포의 주요 인풋 중 하나는 선조체에서 전달된 것이고, 이 투사는 피질선조체의 연결과 아주 유사한 구조의 고리 형태로 진행된다. 이 투사에는 지형적 구조가 형성되어 있어 선조체 내 부위들은 가까이에 있는 도파민 뉴런 세트에 투사한다(그리고 투사를 받는다). 한편, 여기서 말 그대로 약간의 꼬임 현상이 나타나는데, 신경 해부학자인 수잰 하버의 표현을 빌리자면, '나선'이 생긴다. 선조체의 일부가 도파민 뉴런에 투사하면 이 도파민 뉴런은 다시 선조체에 연결되는데, 이때 선조체는 운동 시스템에 인접한 영역에 투사를 하는 세포에게도 인풋을 보내, 선조체와 도파민 세포 사이에 연결 구조가 운동 시스템을 향한 상승 나선처럼 보인다. 선조체 뉴런이 최종적으로 운동고리에 아웃풋을 보내는 도파민 세포에도 인풋을 보낸다는 뜻이다. 인과 놀튼은 도파민 시스템의 이러한 특징 때문에 인지 시스템이 도파민 신호를 보내고 그 결과 운동 고리의 가소성을 조절해 인지 시스템이 운동 고리에 천천히 '스며든다'고 설명했다. 습관이 운동 시스템에 새켜지는 동안 인지 시스템의 감독에서 자유로워져 결과적으로 우리가 전혀 의시하지 못하는 행동이 탄생하게 되는 것이다.

러셀 폴드랙. (2022). 습관의 알고리즘 (신솔잎, 역). 서울: 비즈니스북스.