브룩스의 "표상 없는 지능"

https://www.youtube.com/watch?v=shGAYGbH9Qs

 

 

제공해주신 YouTube 링크는 1987년에 MIT의 로드니 브룩스(Rodney Brooks)가 발표한 "표상 없는 지능 (Intelligence without Representation)"이라는 제목의 역사적인 논문을 검토하는 스트리밍 영상입니다. [00:39], [00:44] 로드니 브룩스는 로봇 청소기 룸바(Roomba)를 만든 아이로봇(iRobot)의 공동 창립자이자 저명한 로봇 공학자입니다. [00:59], [01:10]

영상의 내용을 논문의 흐름에 따라 아주 상세하게 정리해 드립니다.

1. 논문의 핵심 아이디어: "표상"에 대한 비판

• 초록 및 배경: 논문의 초록은 전통적인 인공지능(AI) 연구가 "표상(Representation)" 문제에 발목 잡혀 있다고 비판하며 시작합니다. [02:05]
• 전통적 AI (전문가 시스템): 1980년대의 주류 AI는 "전문가 시스템(Expert Systems)"이었습니다. [03:05] 이는 세상을 기호화된 모듈로 나누고, 이 모듈들이 복잡하게 수작업으로 만들어진 '표상'을 통해 서로 통신하는 방식이었습니다. [03:13]
• 브룩스의 대안: 브룩스는 이것이 잘못된 접근 방식이라고 주장합니다. 그는 지능 시스템이 독립적인 정보 처리 장치로 분해되는 것이 아니라, "독립적이고 병렬적인 활동 생성기(activity producers)"로 분해되어야 한다고 말합니다. [03:47] 이 활동 생성기들은 중앙 표상을 통하지 않고, '인식'과 '행동'을 통해 직접 현실 세계와 인터페이스합니다. [02:16] 이는 오늘날 "체화된 지능(Embodied Intelligence)" [02:33]이라고 불리는 개념의 효시입니다.
• "세상을 그 자체의 모델로": 논문의 핵심 결론 중 하나는 "명시적인 표상과 세상의 모델은 방해가 될 뿐"이라는 것입니다. [09:27] 대신 "세상을 그 자체의 모델로 사용하는 것이 낫다" [09:31]고 주장합니다. 스트리머는 이를 세상에 대한 어떤 모델도 실제 세상 자체의 복잡성을 전부 담아낼 수 없다는 의미로 해석합니다. [10:06]

2. 지능의 진화와 "인공 비행"의 비유

• 진화의 교훈: 논문은 지구 생명체의 진화를 근거로 듭니다. 수십억 년의 시간 동안 생명체는 '존재하고 반응하는 본질'을 진화시켰고, 인간의 고차원적 능력(언어, 전문 지식 등)은 그에 비해 아주 최근에 나타났다는 것입니다. [13:51], [13:59] 즉, 동적인 환경에서 생존을 위해 움직이고 감지하는 능력(이동성, 비전, 생존)이야말로 진정한 지능의 필수 기반이라는 주장입니다. [14:26], [14:46]
• '인공 비행' 비유: 브룩스는 1890년대의 '인공 비행' 연구자들에 대한 비유를 듭니다. [15:44] 이들이 시간 여행으로 보잉 747을 보고 돌아와서 비행의 본질인 '공기역학'은 무시하고, 좌석이나 창문 같은 피상적인 세부 사항을 복제하는 데 집중하는 모습을 상상합니다. [16:39], [16:45] 이는 당시 AI 연구자들이 지능의 본질이 아닌 잘못된 '추상화'에 집중하고 있음을 비판하는 비유입니다.

3. "추상화는 위험한 무기다"

• 블록 월드 비판: 브룩스는 AI 연구의 '추상화'가 "자기기만" [20:05]이라고 강하게 비판합니다. 특히 '인식'과 '운동 기술'이라는 어려운 문제를 연구에서 제외하고 [20:14], '블록 월드(Blocks World)' 또는 '그리드 월드(Grid World)' [21:19] 같은 극도로 단순화된 세계를 가정한다고 지적합니다.
• 문제의 본질: 이 단순화된 세계에서는 연구자가 이미 세상을 추상화하는 어려운 작업을 다 해버렸고, AI 프로그램은 남은 단순한 '탐색' 문제만 풀게 됩니다. [27:52] 그는 이것이 지능의 본질이 아니라고 봅니다.
• '메르크벨트(Merckwelt)': 영상은 '메르크벨트' [31:47]라는 개념을 소개합니다. 이는 각 생물(또는 로봇)이 가진 고유한 센서에 따라 세상을 인식하는 방식, 즉 '세계 모델' [32:06]이 다르다는 뜻입니다.

4. 대안: 점진적 지능과 "포섭 구조 (Subsumption Architecture)"

브룩스는 자신의 공학적 방법론인 "포섭 구조"를 제안합니다.

• 기능별 분해 (X): 전통적인 AI처럼 '인식', '계획', '행동' 모듈로 나누는 '기능별 분해'를 거부합니다. [43:25]
• 활동별 분해 (O): 대신 지능을 "활동(Activity)" 또는 "행동(Behavior)" 단위로 분해합니다. [43:35] 각 활동은 '감지'에서 '행동'으로 직접 연결되는 하나의 완전한 '계층(Layer)'입니다. [43:47]
• 점진적 구축:
  1. 계층 1 (Layer 1): 먼저 "장애물 회피"와 같이 가장 단순하지만 완전한 시스템을 만듭니다. [45:42]
  2. 계층 2 (Layer 2): 그 위에 "배회하기(Wander)" 같은 다음 계층을 추가합니다. [48:01]
  3. 병렬 작동: 두 계층은 병렬로 작동합니다. 계층 2는 계층 1의 행동을 억제하거나 새로운 명령을 내릴 수 있지만, 계층 1은 계층 2의 존재를 모르고 계속 독립적으로 장애물 회피를 수행합니다. [48:17], [48:23] 즉, '배회' 계층은 '장애물'을 알 필요 없이 '회피' 계층이 알아서 처리하도록 맡깁니다.

5. "중앙 표상은 없다"

• 이 구조의 핵심은 "중앙 표상이 없다" [49:12], [51:47]는 것입니다.
• 인식은 여러 계층에 분산되어 있으며, 각 계층은 자신에게 필요한 정보만 세상으로부터 직접 추출합니다. [53:41]
• 시스템 전체는 중앙 통제 시스템 없이, "경쟁하는 행동들의 집합" [57:27]으로 작동합니다.
• 일관성 있는 행동은 이들의 상호작용 속에서 외부 관찰자의 눈에 "창발(emerge)"하는 것처럼 보일 뿐입니다. [58:56] (스트리머는 이를 현대 신경망에서 여러 경쟁 경로가 다음 토큰을 '투표'하는 것에 비유합니다. [57:34])

6. 실제 로봇 구현

영상은 이 구조로 실제 구현된 로봇을 설명합니다.

• 센서: 12개의 초음파 소나(Sonar) 센서를 사용합니다. 이 센서들은 매우 시끄럽고(노이즈가 심하고) 다루기 어렵습니다. [01:18:29], [01:19:21]
• 계층 1 (회피): 소나 센서가 물체로부터 '반발력'을 계산합니다. 로봇은 이 힘의 반대 방향으로 회전하고 전진하며, 막히면 멈춥니다. [01:19:53], [01:21:58]
• 계층 2 (배회): 10초마다 무작위 방향으로 '인력(매력)'을 생성합니다. [01:22:44] 이 힘은 계층 1의 반발력과 합쳐집니다. 하위 계층(계층 1)의 회피 행동은 기본적으로 억제(suppress)되지만, 장애물이 감지되면 즉시 활성화되어 배회 행동을 방해합니다. [01:23:25]
• 계층 3 (탐험): 가장 먼 빈 공간(가장 먼 소나 값)을 찾아 그곳으로 경로를 계획합니다. [01:23:37], [01:24:01]

7. 당대의 다른 분야(신경망)와의 비교 및 아이러니

• 연결주의/신경망 비판: 논문에서 브룩스는 '연결주의자(Connectionists)', 즉 신경망 연구자들을 비판합니다. [01:26:22]
  • 그들은 시뮬레이션에서만 작업한다. [01:26:30]
  • 균일하고 단순한 노드를 사용한다. [01:26:44]
  • "분산된 표상이 네트워크에서 자발적으로 발생하기"를 잘못 기대한다. [01:27:47]
• 브룩스의 방식: 반면 자신의 시스템은 노드(유한 상태 기계)가 모두 독특하고, 연결 밀도가 낮으며, 연결 방식(토폴로지)이 고정되어 있다고 말합니다. [01:27:40]
• 치명적인 아이러니: 스트리머는 이 부분이 논문의 가장 큰 아이러니라고 지적합니다. [01:26:51], [01:47:28]
  • 현대 AI는 정확히 브룩스가 틀렸다고 말한 방식(연결주의)으로 성공했습니다. [01:27:56]
  • 현대의 딥러닝은 브룩스가 비판한 '단순하고 균일한 노드(뉴런)'를 사용하며, '연결(가중치)' 자체를 학습(즉, 토폴로지를 변경)함으로써 '분산된 표상'이 '자발적으로 발생(학습)'하도록 만듭니다. [01:48:20]
• 고정 토폴로지에서의 학습: 브룩스는 "고정된 토폴로지 네트워크에서 학습이 가능한가?" [01:34:23]라는 질문을 던지지만, 현대 AI의 답은 "아니오, 학습은 토폴로지(연결 강도) 자체를 변경하는 과정이다"입니다. [01:48:20]

8. 결론 및 스트리머의 요약

스트리머는 이 논문이 '체화된 지능'의 중요성을 강조한 철학적, 기술적 주장으로서 큰 의미가 있다고 평합니다. [01:44:14] 하지만 브룩스가 제안한 구체적인 공학적 해법(포섭 구조)은 그가 그토록 비판했던 '연결주의/신경망' 접근 방식에 의해 완전히 대체되었습니다. [01:46:36]

결국 이 논문은 로봇 공학의 중요한 화두를 던졌지만, 지능 구현의 메커니즘에 대해서는 역설적이게도 정반대의 길을 제시한 셈입니다. [01:48:45] 스트리머는 이를 통해 현재 우리가 AI에 대해 가진 가정 역시 미래에는 완전히 뒤집힐 수 있다는 교훈을 얻을 수 있다고 말하며 영상을 마무리합니다. [01:49:05]