인공지능 AI 시대에 예술하기 - part #2: Echoes of Asgard 아스가드가 남긴 것들

AI 시대 예술하기는 단순히 AI, AGI 기술이 우리의 실생활 영역으로 들어와 점차 흔한 운영체제 OS 처럼 거의 모든 기기를 통해 활용되는 시대를 목전에 두고, 사회와 산업 전반은 물론 우리의 실존적 한계 영역에 이르기까지 매우 많은 문제들을 수면 위로 떠올리고 있는 이 시점에 찬성이나 반대와 같은 단순하고 이분법적 논의 그리고 비교적 최근인 과거의 가장 대표적인 '잘못된 진단'으로 꼽히는 활동영역부분, 이를테면 창의적 영역과 같은 분야에서 AI가 활동하기는 어려울 것이라는 것과 같은 진단이 아닌 더욱 근본적인 문제들에 대해 다각도로 생각해보고, 그 질문을 조금 더 명확하게 던져보는데 그 목적이 있다고 할 수 있다.

이야기를 위해 우선 2007년에 방영된 Sci-fi TV 시리즈

'스타게이트 SG-1'의 시즌 10, 에피소드 20으로부터 시작해본다. 

---

스타게이트 SG-1 S10 EP20은 <Unending>이라는 제목으로 방영되었다. 이 이야기 가운데 오늘날의 AI기술 진보와 관련된 은유(metaphor)로 제시하여 우리의 고민을 이끌어 낼 부분이 있어 그 부분에 관한 이야기를 해볼까 한다. 특별히 이 이야기는 데이터의 생성이라는 측면과 AI 모델의 훈련이라는 측면을 두고 생각해보면 매우 의미가 있을 것이라 생각된다.

<Unending>은 지구에 사는 인류에게 매우 호의적이며 또한 매우 진보한 외계 종족 '아스가드 Asgard'에 관한 이야기다. 북유럽 신화를 모티프로 하는 이러한 구성은 판타지나 Sci-fi 작품들에서 다양하게 발견된다. 잘 알려진 것으로는 어벤저스 Avengers 시리즈 가운데 천둥신 토르 Thor 같은 캐릭터가 있을 것이다. 스타게이트 SG-1 에서는 <토르의 전차(Thor's Chariot)>라는 제목으로 1998년 방영된 에피소드 이후 점차 인류와 호의적인 관계를 구체화시키는 전개로 나타난다.  <Unending>은 그러한 '아스가드'와의 인연이 마무리되는 에피소드다. 지구에 호의적이지만 기술이전에는 매우 부정적이었던 '아스가드'는 종족의 사활을 결정하고 사실상 그들이 가진 기술이전을 목적으로 우주선을 지구에 제공한다.

'아스가드'는 오랜 기간 동안 어떠한 유전적 문제(genetic degradation)를 겪고 있었다. 가능한 모든 방법을 동원해도 자신들 문명 앞에서 멸망의 조짐으로 다가오는 이 문제를 해결할 수 없다는 결론에 도달했고, 그들 자신의 운명을 결정하기로 한다. 

혁신을 넘어서: '아스가드'의 비극과 기술 진보의 딜레마

이 시리즈를 통해 우리는 '아스가드'가 직면했던 흥미로운 문제 하나를 생각해 볼 수 있다. 그것은 바로 기술에 대한 과도한 의존과 그 한계에 관한 것이다. 수 만 년 문명의 역사, 어마어마한 지적, 기술적 진보에도 불구하고 '아스가드'는 자신들의 수명 연장을 위해 선택한 '복제 cloning' 기술이 궁극적으로 스스를 파멸로 이끄는 결과를 피하지 못했다. 이는 우리에게 앞에 놓인 문제들에 관한 실랄한 비판을 떠올릴 수 있게 만든다.

기술에 대한 과신이 불러온 문제
스타게이트 SG-1에서 '아스가드'는 기술적 진보의 정점에 도달한 종족으로 묘사되지만 동시에 그들이 직면한 넘을 수 없는 문제를 마주했다는 점은 이 이야기가 주는 매우 중요한 교훈이라 할 수 있다. 이는 또한 Sci-fi 작품들이 철학적으로 내포하는 매우 핵심적인 주제를 강조하는 것이라고 할 수 있다. 기술은 그것이 아무리 진보했다고 하더라도 언제나 한계를 수반하며 또한 잠재적인 위협으로 작용한다. '아스가드'의 유전적 문제는 오랜 세월에 거친 '복제 cloning'에 의해 악화되었다. 확산되는 문제와 단점들의 누적은 점차 되돌릴 수도, 멈출 수도 없게 되었다. 

그렇다면 왜 그들은 이러한 지경에 이르렀고 또한 문명 자체를 스스로 파괴해야 한다는 판단을 결론으로 내놓았을까?

이는 실존적, 윤리적 문제와 연결된다.

'아스가드'의 상황은 곧 생명을 근본적인 층위에서 조작한다는 점을 돌아보게 한다. 우리가 쉽게 '윤리적'으로 판단할 수 있는 어떠한 부분보다도 '나'의 보존 즉, 자기보존의 욕구에 관한 부분을 강렬하게 파고들며 옳고/그름의 문제를 단순히 생명윤리적 관점에 제한하지 않고 복합적 관점을 통해 바라보도록 만든다. '복제 cloning'를 통한 자기 self 의 존속과 관련한 문제를 과연 '아스가드' 정도의 누적적 성장을 이룬 문명에서 이해하지 못했을까? 이것은 이해와는 달리 실존적 질문들, 특별히 복잡한 감정들을 수반하는 질문들을 던지게 되기 때문이다.

생명연장의 꿈은 이루어지는가?
기본적으로 북유럽의 신화는 '발할라'와 같은 사후세계의 그림을 제시하지만, 스타게이트 SG-1 속에서의 '아스가드' 문명은 그러한 사후세계의 문제에 관한 물질문명적 세계관을 이미 완전히 굳혔을 가능성이 있다. 또한 역사적 의미에서 정점에 이른 개인들(개체들)을 극단적으로 발전시켜 문명의 발전과 그 효율을 극대화하고자 했을 가능성 또한 높다. 늘어나는 수명, 이어지는 기억과 기나긴 세월의 경험 등이 어우러지며 문명은 매우 효율적으로 발전했을 것이다. 그러나 진정한 의미에서의 '이어감'이란 상당한 불확실성을 수반하는 것이 어찌보면 자연의 질서라 할 수 있다. '자연선택'이 '인위'와 다른 지점은 바로 이 세계 안에는 우리가 지적으로 상상하고 설계할 수 있는 것보다 훨씬 더 큰 가능성이 있고 그 결과 이 세계가 끊임없이 열려있음을 보여주기 때문이다. 지적 생명체에게 필요한 것은 '전지 omniscience'가 아니라 끝없이 열린 세계를 향한 경외감이다.

'아스가드'가 남긴 것들 Echoes of the Asgard

나는 스타게이트 SG-1 에서 '아스가드'가 직면했던 문제를 오늘날 AI 지속가능성(AI sustainability)과 연결해서 생각해보기로 했다. 우리는 무엇 때문에 AI의 지속가능성 문제를 고민해야 하는가? 이 부분에 대해서는 다른 글을 통해 그 이유를 어느 정도 설명한 것 같다. 여기에서는 조금 더 구체적이고 제한적으로 그 문제를 짚어보는 것과 동시에 그렇기 때문에 우리 인간이 직접 예술행위를 하는 것의 중요성을 생각해보고 싶다.

폐쇄적인 피드백 구조와 AI 개발이라는 문제
'아스가드'가 '복제 cloning'에 의존하며 결과적으로는 유전적 문제를 피할 수 없게 된 것을, AI 분야가 직면할 상황의 반면교사(反面敎師)로 삼을 수 있을 것이다. 이를테면, 앞으로 AI 모델의 훈련 데이터 중 상당수는 현재 양산되고 있는 AI에 의해 생성된 데이터들로 채워질 가능성이 너무나 높다는 위험이 이미 다가왔다는 것이다. 이는 다시 자기강화의 헛바퀴를 돌리는 상황으로 이어지거나 혹은 편향과 오류를 강화하여 그 특성으로 만들 가능성이 있으며 더불어 AI 시스템들 간에서 서로 이러한 문제들을 강화하는 경향으로 이어질 문제도 있다는 것이다.

이점의 감소와 혁신의 병목 지점
기술적 진보에도 불구하고 '아스가드'가 자신들의 유전적 문제를 해결하지 못하는 지경에 이르른 것처럼 AI 개발 또한 유사한 병목 지점에 도달할 가능성을 배제하기 어렵다. 이는 아마도 기술적 문제 자체에서 드러나기 보다 데이터의 수준(quality)과 다양성(diversity)이라는 측면을 통해 발견될 것이다. AI 모델이 더욱 복잡화 할수록 훈련에 사용되는 데이터는 기하급수적으로 늘어나고 개선되어야 한다. 그리고 이것은 편향이나 오류를 수반하지 않으면서도 독창적인 결과물을 생성하기 위한 모델 개발의 잠재적 어려움으로 이미 자리하고 있는 것이다.

스타게이트의 <Unending> 에피소드의 교훈
'AI 개발'과 '지속가능성 sustainability'이라는 문제를 두고 특정한 방식 혹은 단일한 기술적 접근에 과도한 의존성이 발생하는 경우 즉, '아스가드'의 '복제 cloning'와 같은 문제가 발생하게 된다. 데이터에 대한 더욱 적극적이고 확실한 인증, 편향을 완화시키고, 새로운 AI 패러다임을 도출할 수 있도록 연구하는 것 등, 거시규모의 특정 데이터 모델이 아닌 다양성 때로는 불확실성을 추구하는 것은 매우 중요한 방법이라는 것이다.

다른 글에 적었듯이 "나는 우리가 말하는 '의미 meaning'의 문제를 풀어내기 위해 미시적인 세계를 드러내는 것보다 사례들을 통해 이해하는 것이 적절하다고 보는 입장이다." 미시계 역학을 통해 환원적 결론을 이끌어 내는 것은 환원주의적 혹은 기계론적 세계관을 다시 불러내는 입장이 될 수 있고 이것은 다시 형식체계 formal system 로 돌아가는 행위일 수 있기 때문이다. AI의 문제는 무한소급과 같은 문제보다도 피드백 루프 feedback loop 에서 '자기부정'이라는 불명확성이 존재하지 않아 형식체계 연산이 반복된다는 점에 더 주요한 이유가 있다. 생물의 개체성, 정체성을 정의할 수 있는 신경연결성은 시시각각 변화하며, 자기지시에 있어서도 그 동일성 identity 이 담보되지 않는다. 오히려 강하게 담보되는 것은 연속성 continuity 이다: https://bhangyoungmoon.tistory.com/entry/인공지능-AI-시대에-예술하기-part-1

인공지능 AI 시대에 예술하기 - part #1

Technology Transfer #2 -- midjourney 생성 이미지

 

인공지능 AI 시대에 예술하기

인공지능 AI 시대에 예술하기란 단순히 어떠한 모델을 선택해 프롬프트 엔지니어링을 능숙하게 하거나 커스터마이징이나 소스코드를 나의 작업에 적절하도록 튜닝하는 그런 작업이 아니다. 이것은 의미의 생성과 그 완성 그리고 환원불가성이라는 '의미 유통의 기본적인 구조'와 더불어 공리적 형식체계 Axiomatic Formal System 에서는 여전히 불가능한 것들에 관한 이야기다.

의미 meaning 생성에 있어서도 생물이 갖는 지점은 통계기반의 AI 모델이 갖는 지점과 어느 정도 차이가 있다. 이를테면 메를로-퐁티 Maurice Merleau-Ponty 의 현상학적 접근을 통해 보면, "의미"는 "생성"되는 것이며, 이는 개별개체 즉, 한 사람에게서 일어날 때도 언어와 지각의 상호작용과 이 두 요소 간의 복잡한 관계가 의미를 생성해낸다는 설명을 얻을 수 있다. 이것은 매우 의미있는 것이다. 지각된 현실은 언어를 통해 해석되고, 그 과정을 통해 의미는 새롭게 얻어진다. 이는 예술활동과 감상에서 매우 중요한 요소이며, 예술이 '사회적 활동 societal'이라는 점을 다시 한 번 확인할 수 있게 만든다. 이는 다시 의미는 개인적 지각에서 시작하지만 사회적 맥락에서 완성된다는 점을 강조한다. 이렇게 점차 예술작품과 그 활동이라는 것은 마르쿠스 가브리엘 Markus Gabriel 과 같은 이들의 주장처럼 '환원이 불가능한 무엇'으로 확장되어 간다.

우리는 매번 생산성 performance 과 같은 관점과 그 제한적 논의라는 함정에 빠져 중요한 것을 놓치는지도 모른다. 열린 세계 open world 와 머나면 지평 the horizon in a distant view 으로 끝없이 이어지는 세계로부터 유입되는 새로움, 그것의 해석과 재해석 그리고 사회적 맥락을 통한 재생산과 완성으로 이어지는 세계라는 현실은, 비록 '창의성'을 계측할 수 있고 기계적으로 설명할 수 있다고 하더라도 그것은 일방적인 것이 아니며 단일방향적으로만 움직이는 것이 아님을 이해한다면 '인공지능 AI 시대에 예술하기'는 곱씹어 볼 만한 것들이 여전히 매우 많이 있음을 알게 될 것이다.