인공지능 AI 시대에 예술하기 - part #1

긴글 요약

---

형식체계에는 표현은 가능하지만 증명이 되지 않는 것들이 존재한다. '컴퓨터 computer'란 계산하는 자, 오늘날에는 형식체계를 다루는 기계를 의미한다. 인공지능은 형식체계를 구현하는 기기 위에서 구현되는 프로그램이다. 즉, 수학의 산물이다. 세계는 수학으로 표현 가능하지만 수학 그 자체는 아니다. 우리는 자주 이것을 혼동한다. 기술하는 방법과 대상, 모델과 대상 그 자체를 혼동한다는 것이다. 만일 세계가 형식체계로 되어 있는 것이라면 모든 것은 무의미한 구문론에 지나지 않게 된다. 이는 곧 무모순성도 확보되지 않는다는 결론으로 향한다. 

피드백 구조에서 자기 부정이 존재하지 않는 '사물'은 자기 인식을 할 수 없다. 생물은 기본적으로 자기지시 역설에 빠지지 않는다. 인간이 시간을 경험하는 것도 자기동일성이 흔들리기 때문에 일어나는 현상이다. 각 생물개체의 개별화된 신경연결성은 시시각각 변화한다. 시냅스는 과거 경험을 토대로 신호의 강도를 변화시킨다. 일관되게 on / off 즉 0과 1로 표기되는이분법(binary)을 토대로 하지 않는다. 이렇기도 하고 저렇기도 할 수 있다는 것이다. 이러한 모호함은 자기존속을 분명히 하면서도 동시에 매우 느슨하다는 모습으로 나타난다. 변하지 않는 것에는 명확함이 있을지 몰라도 변하는 것에는 불명확함이 공존한다. 어쩌면 이들의 균형 상태가 생물을 정의한다.

생물의 지능과 기계의 지능은 그 근간이 다르다. 생물은 보존하기 위해 사방을 인식하고 움직이는 것을 바탕으로 지능이라는 것을 발전시켜왔다. 환경과 경험 그리고 그 해석이 개체의 특징을 결정하며 다양성을 만들어낸다. 생각은 곧 움직임이며 움직임은 생각이다.

---

"모든 이야기가 결과와 성과에 함몰되어 있다. 조금 다른 이야기를 해보자."

산업혁명을 한마디로 정리하자면 "자본에 의한 인력 대체"라고 할 수 있을 것이다. 이는 오늘날에도 거의 유사하게 일어나는 일인데, 이를테면 인공지능 즉, AI에 의해 일자리가 사라질 것이라는 흔한 전망들은 기본적으로 그러한 생각에 바탕을 두고 있다.

결과와 성과에 방점을 찍으면 AI는 말할 수 없는 위협이다. 사업은 성과를 원하고 정치는 결과를 원한다. 소위 한 사회 안에서 '결집된 요구'의 발현은 이런 식으로 나타난다. 발전을 도모하는 사회는 결과와 성과를 필요로 한다. 당연히 대부분의 논의는 그러한 생각을 바탕으로 이루어질 수 밖에 없다. AI 개발은 많은 재정을 필요로 하고, 투자와 지원을 위해서는 결과와 성과를 보장해야 하는 것이다.

따라서 모든 이야기는 결과와 성과에 함몰되어 있다. 그렇기에 다른 이야기를 해보려 한다.

 

인간과 AI, 서로가 조금 다르다

 #Rebecca_Goldstein

수학은 기본적으로 선험적 추론을 통해 이루어지며, 수학적으로 확립된 결론은 뒤집어지지 않는다. 그 결과로우리는 어떠한 패러다임 쉬프트 paradigm shift 와 관계 없이 지난 2천 6백여년의 누적적 수학 지식을 갖게 되었다. 수학은 진리정화법 즉, 수학만이 엄밀한 의미에서 '공리계 axiom system'를 갖는다는 점에서 매우 독특한 지식이다.

공리들은 공리계를 구성하는 근본진리들로 명백한 것들이다. 전체에 대한 확신을 가지려면 그 기본이 되는 공리들의 진실성에 대한 의문이 해소되어야 하며, 공리계의 근간을 이루는 동기는 직관에의 호소를 최소화, 나아가서는 제거하는 것을 통해 확실성을 견고하게 하는 것이다. 이 목표는 형식체계 formal system 라는 관념에 이른다. 형식체계란 직관에의 호소를 제거한 공리계다. 이것이 수학자 힐베르트(David Hilbert)가 추구한 것이며, 잘 알려져 있는 바와 같이 1930년 쾨니히스베르크 학회에서 쿠르트 괴델(Kurt Gödel)에 의해 무너진다.

괴델은 힐베르트의 문제가 해결될 수 없다는 것을 증명하며, 산술체계 안에서 그 공리들의 무모순성을 유한한 형식적 증명으로는 결코 해결할 수 없음을 증명했다. 따라서 힐베르트 계획을 뒷받침할 증명은 존재할 수 없으며 형식주의는 결국 아무것도 할 수 없다는 결론을 아주 담담하게 내놓았다.

"형식주의자들은 직관을 제거하여 수학적 확실성을 확보하려고 했다. 괴델은 수학이 직관 없이 나아갈 수 없음을 보였다. 우리의 사고를 형식적인 구문론적 범주로 한정하려 하면 무모순성조차 확보되지 못한다." - Rebecca Goldstein

 

컴퓨터의 계산과정은 형식체계 그 자체라 할 수 있다

이것들은 의미를 갖지 않은 계산적 결론의 도출이다. 

제리 포더 Jerry Fodor 와 어네스트 르포 Ernest Lepore 는 인공신경망이 의미를 표상할 수 없다고 주장한다. 계산주의 마음이론 The Computational Theory of Mind 에 전적으로 동의한다고 해도 기본적으로 우리와 기계의 지능은 다른 점이 있다. 더군다나 형식체계는 직관을 제거하여 수학적 확실성을 담보하려는 생각을 근간으로 한다. 괴델이 보여준 불확실성의 증명은 끊임없이 열린 세계를 보여준다. 

괴델의 입장을 받아들여보면 논리 구조의 완성도가 높고 시스템이 그 구조의 지배를 받는 상황에서도 새로운 것이 발생할 수 있다는 가능성과 양립이 가능함을 보여준다. 이것은 생물의 진화를 이해하는데 매우 중요한 관점이며, 오늘날 점점 복잡해지는 머신러닝을 설명할 수 있는 중요한 관점일 것이다.

그런데, 하나의 장막을 걷어내면 '형식체계' 위에서 연산에 동원되는 트랜지스터를 늘리고 언어를 다루는 피라미터를 늘리는 것으로 기계에서 구현되는 지능과 우리가 지금까지 '지능' 혹은 '이해'라 부르던 그것과는 매우 다르다는 사실을 이해할 수 있다.

 

'의미'는 어디에서 오는가?

엘레노어 로쉬 Eleanor Rosch 의 <원형이론 prototype theory>은 인지과학의 한 분야로 특정한 심리학적, 인지언어학적 분야를 다룬다. 이 이론에 따르면 "사례들은 성질을 공유하는 정도에 의해 해당 개념의 대표성이 판단된다."

머신러닝의 바탕과 유사하게 사람에게도 의미 표상은 벡터공간을 통해 이루어진다는 것이 처칠랜드(Paul Churchland)의 주장이다. 그가 PA모델(prototype-activation model)을 통해 주장하는 바는 벡터공간상의 특정한 점이 특정한 개념을 표현한다는 것이다. 제리 포더 Jerry Fodor 와 어네스트 르포 Ernest Lepore 는 이것을 반박하는데, 이를테면 사람들이 갖는 유사한 혹은 동일한 의미에 대한 이해를 표현하려면 신경세포가 동일한 인과적 의존성을 가져야 한다는 것이다. 

따라서 동일한 개념이 성립하려면 벡터공간에서 동일한 위치를 차지해야 한다는 주장은 확률적으로 성립 불가능한 논의를 바탕으로 한다는 주장이다. 그러나 처칠랜드는 벡터공간의 위치가 아닌 구조적 동형성에 의해 이것이 성립한다고 말한다. 처칠랜드의 주장은 이제 우리가 쉽게 접하게 된 LLM(Large Language Model)의 원리에서 확인된다. 여기까지 생각해보면 형식체계 위에서 구현되는 언어 구현과 우리의 언어 생활은 그 차이가 없지 않는가 하고 생각할 수 있다. 하지만 자세히 보면 반대다. 여전히 형식체계를 토대로 '벡터공간'을 통해 구현되는 자연어와 AGI(Artificial General Intelligence)는 인간의 뇌에서 일어나는 개념 성립과정을 모사한 소프트웨어인 것이다.

인간의 신경세포와 인공지능은 상당히 다른 특징들을 바탕에 두고 동작한다. 하나의 시냅스에는 수백 개의 시냅스 소포(Synaptic vesicle)와 수용체(receptor)가 존재한다. 이는 단순히 다채널화 혹은 병렬화된 트랜지스터와는 다르다. 왜냐하면 시냅스는 신경전달물질 분비량에 따라 변화를 보여주는데 이는 시냅스의 '성능'이 가변적이라는것을 의미한다. 만일 과거 사례에 의해 다른 출력을 만드는 트랜지스터라면 당연히 불량품이다. 그러나 시냅스의 가변성은 동물이 상황에 따른 적절한 반응(reaction)을 하기 위해 매우 중요한 요소로 받아들여진다. 즉, 단순히 신호전달을 하는 것이 아니라 동물의 학습을 위해 다차원적으로 동작하는 것이다(이대열).

신경계는 감각 수용체에 들어온 자극들에 대한 정보가 뉴런이 입력되면 운동으로 반응하는 것을 기본으로 한다. 가스파르 제클리 Gaspar Jekely 의 이론에 따르면, 생물이 운동을 위해 체내 화학적 방식을 통해 운동을 통제하는 것은 그 반응속도가 느려 유효할 수 없으며, 인접한 감각세포들과 인접한 운동세포들이 뭉쳐 감각세포의 신장부위에서 전기신호를 통한 신속한 소통을 지향했다는 것이다. EMBL(유럽 생명과학 연구소)의 데트레브 아렌트(Detlev Arendt) 연구팀은 "뉴런은 근본적으로 감각세포와 운동 세포 사이의 소통을 위해 등장한 것"이라고발표했다. 

머신러닝이 '입력된 데이터'를 바탕으로 한다면 동물의 신경계는 외부자극 즉, 외부세계와의 소통을 바탕으로 발달했다. 원형이론(prototype theory)에 넓게 펴바르는 심상을 적용해 생각해보면 인간이 가진 '의미'의 뿌리는 상당히 후대에 발달한 지적요소가 아닌 바깥세상에 대한 일종의 심적 대응물 mental counterpart 에 바탕을 두고있는 것이다. 

즉, '느낌'이라는 것으로부터 '앎'과 '의미'를 얻을 수 있게 되는 것이 아닐까 하는 과감한 추측을 조심스럽게 해볼 수 있는 것이다.

"Something novel and extremely valuable had emerged in the history of life: a mental counterpart to a physical organism." (Antonio Damasio)

 

느낀다는 것, 안다는 것, 움직인다는 것

우리가 느끼고, 아는 것 즉 세상을 인식하고 의미를 부여하는 것의 저변에는 자기보존과 그것을 넘어선 자기복제의 세계가 있다. 

생물은 세상을 감각하고, 움직이기 위해 이해했으며, 감각하기 위해 움직이고 다시 움직이기위해 이해한다.

나는 우리가 말하는 '의미 meaning'의 문제를 풀어내기 위해 미시적인 세계를 드러내는 것보다 사례들을 통해 이해하는 것이 적절하다고 보는 입장이다. 왜냐하면 미시세계의 역학을 통해 일종의 환원적 결론을 이끌어내어 생물과 기계 사이의 간극을 메우려는 것은 되려 다시 형식체계로 되돌아가는 행위일 수 있기 때문이다. 불교의 논리가 종종 언급하는 것처럼, 세상은 미세한 것들로 되어 있고 그 미세한 것들은 그것을 이루는 미세함으로 되어 있다면, 그 미세한 것들은 또 구조를 갖고, 그 구조를 이루는 요소들은 또 구조를 갖는다. 불교는 이런 식으로한없이 반복되다보면 이 세상에는 아무것도 없으며 아무런 의미도 없다는 파국을 경험할 가능성도 생긴다는 점을 지적하며 있는 것과 없는 것의 분별에 집착하지 않을 것을 주장한다. 

다시 생각해보면, 무한소급에 바탕을 둔 생각에 빠진 사람이 세상에 의미있는 것은 아무것도 없다고 '믿는 것' 또한 직관에 의지한 결론이다. 왜나하면, 지금껏 누구도 엄밀한 의미에서의 무한소급을 모순 없는 형식체계 위에서 끝까지 풀어낸 적은 없기 때문이다.

아서 쾨슬러 Arthur Koestler 식으로 창의적 활동(act of creation)을 "이연연상(bisociation)"과 같은 방법으로 설명하면 '창의'의 세계는 인공지능에 완전히 지배된다. 이제 새로울 것이 없어서 너무나 담담한 결론이 펼쳐지는데, 인간의 위대성은 자신의 미약함과 우주의 광활함을 이해한다는 것에서 온다. 이러한 파스칼의 주장에서 보여지는 것을 토대로, 예술의 필요성은 효율성과 생산성의 관점이 아니라 경험하고 경험되는 것에 있다는 점에서 다시 정립해야 한다. 경험주체가 되어 만들어 내고, 그것을 경험하고, 경험하기 위해 만들고, 만들기 위해 경험하며 불확실성을 늘려나가는 것이다.

감정은 우리 자신의 상태에 대한 해석이다. 나의 '존재'나 '자아'는 어쩌면 매우 개념적인 것들로 실상과는 동떨어진 것들에 가깝다. 오히려 하나의 느낌, 하나의 감정을 강렬하게 느낄 때 나를 체험하게 된다. 나는 이것이 인간이 계속 예술을 해야하는 매우 중요한 이유라고 생각한다.

 

경험주체가 되어 만들어 내고, 그것을 경험하고, 경험하기 위해 만들고, 만들기 위해 경험하며 불확실성을 늘려나가는 것이다.

나는 이것이 인간이 계속 예술을 해야하는 매우 중요한 이유라고 생각한다.