AI가 길을 잃어야 게임이 된다

게임에서 봇은 오래도록 막아야 할 대상이었다.

매크로처럼, 치트처럼, 사람이 직접 해야 할 일을 대신하며 게임의 규칙을 흐리는 존재에 가까웠다. 정상적으로 플레이하는 사람의 재미를 낮추고, 게임 안의 공정함을 망치는 무언가로 여겨졌다.

그런데 그날 포켓몬을 에이전트가 깨는 자리에서는 달랐다.

사람들은 봇을 쫓아내지 않았다. 오히려 직접 만들고, 목표를 주고, 행동을 지켜보고, 실패하면 다시 교정했다. 직접 버튼을 누르는 대신, 버튼을 누르는 존재에게 훈수 두는 일이 게임이 됐다.

기획자인 조재표님은 이 전환을 분명히 의식하고 있었다.

“봇이 내 훈수를 들으며 게임을 진행해나가는 것을 구경하는 것은 매우 재밌는 일입니다.”

이 말이 이번 글의 출발점이다.

조재표님에게 포켓몬은 AI를 쉽게 설명하기 위한 귀여운 포장지에 그치지 않았다. 실패하는 에이전트를 사람들이 같이 보고, 웃고, 다시 고칠 수 있게 만드는 무대에 가까웠다.

단순한 조작과 복잡한 세계

조재표님이 포켓몬 레드를 고른 이유는 단순히 친숙하기 때문만은 아니었다.

포켓몬 레드는 오래된 게임이다. 조작은 단순하다. 위, 아래, 왼쪽, 오른쪽, A, B. 사람이 누를 수 있는 버튼은 많지 않다. 하지만 게임 자체는 꽤 복잡하다. 월드가 있고, 길이 있고, 대화가 있고, 배틀이 있고, 순서가 있고, 기억해야 할 목표가 있다.

그는 이 점에서 포켓몬 레드와 지금의 LLM이 닮아 있다고 봤다.

“포켓몬 레드는 인터렉션은 단순하지만 게임 자체는 꽤나 복잡하니까요. LLM도 우리가 사용하는 방식은 언어적 입력을 주는 것에 불과하지만 활용 방법은 복잡해질 수 있는 것처럼요.”

단순한 입력이 복잡한 세계를 움직인다.

포켓몬에서는 버튼 몇 개가 월드를 움직인다. LLM에서는 언어 입력이 복잡한 작업을 움직인다. 겉으로 보면 간단하지만, 실제로는 그 안에서 긴 판단과 순서와 실패가 생긴다.

이 둘을 붙이면 이상한 놀이가 된다.

사람은 직접 포켓몬을 하는 대신, 포켓몬을 하는 에이전트를 만든다. 에이전트에게 목표를 주고, 에이전트가 어떻게 실패하는지 보고, 다시 움직이도록 장치를 붙인다. 여기서 게임은 사람이 직접 조작하는 것이 아니라, 에이전트가 조작하는 것을 사람이 지켜보고 교정하는 일이 된다.

이것이 그날의 낯선 재미였다.

실패를 숨기지 않는 이유

견고한 AI 에이전트를 만들려면 무엇이 필요할까.

조재표님은 실패를 명시적으로 확인할 수 있는 기반이 필요하다고 했다.

“견고한 AI 에이전트를 만들기 위해서는, AI가 어떤 실패들을 하는지에 대한 명시적인 확인을 할 수 있는 기반을 갖춰야합니다.”

이 문장이 에이전트 하네스의 핵심에 가깝다.

하네스는 에이전트가 멋지게 성공하는 장면만 보여주는 장치가 아니다. 오히려 어디서 실패하는지, 무엇을 놓치는지, 어떤 편향을 반복하는지 볼 수 있게 만드는 장치다.

그는 그것을 피하는 일이 하네스 엔지니어링의 대부분일 수 있다고 했다.

벽에 박는다. 길을 잃는다. 목표를 잊는다. 같은 행동을 반복한다. 입력의 의미가 바뀐 상황을 놓친다. 화면을 보고도 다음 행동을 고르지 못한다.

이 실패들은 숨겨야 할 부끄러운 결과가 아니었다.

오히려 다음 구조를 붙이기 위한 재료였다. 에이전트가 어떤 편향을 으레 가지는지 보고, 그것을 어떻게 보완할지 고민할 수 있게 해주는 단서였다.

그래서 포켓몬은 좋은 장치였다.

사람들은 에이전트가 벽에 박아도 웃을 수 있었다. 메뉴에서 헤매도 같이 볼 수 있었다. 첫 맵을 벗어나지 못해도 그 장면이 너무 무겁게 느껴지지 않았다. 실패가 익숙한 게임 화면 안에 들어오자, 사람들은 실패를 덜 숨기고 더 잘 보게 됐다.

봇을 막던 게임에서, 봇에게 훈수 두는 게임으로

기존 게임에서 봇은 나쁜 존재였다.

조재표님도 그렇게 말했다.

“기존의 봇은 악의적인 의도를 가지고 정상적으로 플레이하는 유저의 사기를 저하시키는 식으로 존재해왔습니다.”

그래서 사람들은 봇을 좋아하지 않았다. 봇은 게임을 함께 즐기는 존재가 아니라, 게임을 망치는 존재에 가까웠다.

하지만 이번 행사의 봇은 달랐다.

이 봇은 몰래 돌아가는 매크로가 아니었다. 사람의 눈앞에서 움직였다. 사람의 훈수를 들었다. 실패를 드러냈다. 다시 교정됐다. 사람은 봇과 경쟁하는 것이 아니라, 봇이 세계를 통과하도록 옆에서 개입했다.

그는 FM이나 문명에서 이미 그런 가능성을 느꼈다고 했다.

직접 모든 것을 조작하지 않아도 된다. 목표를 정하고, 흐름을 보고, 개입할 타이밍을 정한다. 플레이어는 직접 뛰는 사람이 아니라, 시스템에 영향을 주는 사람이 된다.

조재표님은 앞으로 이런 포맷의 게임이 더 많이 나올 수 있다고 봤다.

AI가 플레이어처럼 움직이고, 인간은 그 움직임에 목표를 주고, 방향을 잡아주고, 실패를 교정하는 게임. 버튼을 직접 누르는 대신, 버튼을 누르는 존재를 훈련시키는 게임.

그날의 포켓몬은 그 가능성을 작게 보여준 장면에 가까웠다.

비싼 모델보다 구조

이날의 핵심은 더 비싼 모델을 쓰는 일이 아니었다.

더 똑똑한 모델을 고르는 일도 중요하지만, 그것만으로는 부족했다. 에이전트가 무엇을 봐야 하는지, 무엇을 기억해야 하는지, 실패했을 때 어디로 돌아와야 하는지 구조를 짜는 일이 더 중요해졌다.

조재표님은 좋은 기반 위에 올라서는 능력도 중요하다고 했다.

“거인의 어깨에 잘 서는 것도 굉장히 중요한 능력이라고 생각합니다.”

누군가 잘 만들어둔 것이 있다면, 그것을 믿고 그 기반 위에서 활용에 집중하는 것이 좋은 전략일 수 있다는 말이었다.

그는 이것을 컴퓨터공학의 블랙박스 추상화 감각과 연결했다. 신뢰할 수 있는 기반이 있다면, 매번 내부를 처음부터 다시 파헤치기보다 그 위에서 다음 문제를 푸는 편이 낫다는 뜻이었다.

이 말은 첫 글의 “파쿠리”와도 연결된다.

그날의 파쿠리는 아무거나 훔쳐 쓰자는 말이 아니었다. 좋은 구조가 있다면 그 위에 빠르게 올라서라는 말에 가까웠다. 모든 것을 처음부터 만들기보다, 신뢰할 수 있는 시스템 위에서 다음 질문을 보라는 뜻이었다.

그 자리에서 “얼른 레포 파쿠리해서 만드세요”라는 말이 자연스러웠던 이유도 여기에 있다.

AI native한 사람들은 좋은 구조를 보면 감탄하고 끝내지 않는다. 가져와서 돌려본다. 자기 환경에서 깨뜨려본다. 그다음 무엇을 더 붙일지 본다.

잉어킹 행동

조재표님은 자신을 포켓몬에 비유해달라는 질문에 잉어킹을 떠올렸다.

잉어킹은 별것 아닌 행동을 반복하는 것처럼 보인다. 하지만 어느 순간 갸라도스로 진화할 수도 있다.

그 비유는 에이전트에도 잘 맞았다.

조재표님은 자신의 에이전트가 게임 차원에서 넓게 바라보는 기억력이 없어서 아직 “잉어킹 행동”을 한 것 같다고 했다. 목표를 길게 기억하지 못하고, 세계를 넓게 보지 못하고, 눈앞의 행동만 반복하는 상태.

하지만 이 실패가 보인다면 다음은 달라질 수 있다.

기억을 보완할 수 있다. 상태를 더 잘 보게 만들 수 있다. 목표를 잃었을 때 돌아오게 만들 수 있다. 하네스를 다시 짤 수 있다.

그래서 실패하는 에이전트를 숨기지 않는 것이 중요하다.

숨기면 부끄러운 장면으로 끝난다. 보이면 다음 하네스의 재료가 된다.

포켓몬은 에이전트가 실패하는 모습을 사람들이 함께 볼 수 있게 만든 장치였다. 그리고 그 실패를 본 사람들은 이제 묻기 시작했다.

어떤 모델이 더 똑똑한가가 아니라, 이 멍청한 에이전트를 어떻게 다시 움직이게 할 것인가.

그 질문이 그날의 게임이었다.