마찰에는 시제가 있다

해커톤에서 제출된 41개의 작품을 이번에는 누구의 행동에 끼어드는지를 기준으로 다시 봤다.

16개가 사람 쪽에 있었다.[^1]

숏폼을 계속 넘기는 손을 잠시 붙잡고, 결제 전에 한 번 멈춰 세우고, 굽은 목을 펴게 했다. 스마트폰을 내려놓게 하고, 잠들 시간을 챙기고, 걸으면서 화면을 보면 위험을 알렸다.

사람을 위해 사람의 흐름을 끊는 물건은 하루 동안 여러 모습으로 만들어졌다.

반대편의 장면은 끝내 완성되지 않았다.

시스템이 먼저 자신이 하려는 행동과 위험을 드러낸다. 그것을 본 사람이 거절한다. 그 거절이 실제 실행을 멈춘다.

그 빈칸은 화면 위에서 대개 두 개의 버튼으로 메워진다.

오래된 파일 14개를 삭제하려 합니다.

[허용]  [취소]

화면만 보면 빠진 것은 없어 보인다.

AI 에이전트가 하려는 일을 알렸고, 마지막 결정은 사람에게 남겨뒀다. 허용을 누르면 실행되고 취소를 누르면 멈춘다. 버튼이 두 개 있으니 권한도 사람에게 있는 것처럼 보인다.

하지만 제대로 판단하려면 버튼보다 훨씬 많은 것이 필요하다.

왜 이 파일들을 오래됐다고 판단했는가. 다른 기능이 참조하고 있지는 않은가. 삭제 범위는 어디까지인가. 복구할 수 있는가. 지금 누르는 허용은 이번 한 번에만 적용되는가. 앞으로 비슷한 파일을 발견했을 때도 지워도 된다는 뜻인가.

팝업은 이 모든 맥락을 두 개의 버튼으로 눌러 담는다.

로그에 확실히 남는 것은 클릭 기록이다. 무엇을 이해하고 눌렀는지는 그 기록만으로 알 수 없다.

사람이 마지막에 있었다는 사실과 사람이 판단했다는 사실은 다르다.

사람의 클릭은 판단의 증거가 아니다.

이미 내린 결정을 지켜주는 물건

사람의 행동에 끼어드는 물건들은 모두 마찰을 만든다.

하던 일을 끊고, 손을 멈추게 하고, 몸을 일으켜 세운다.

그런데 이 물건들이 사용자를 대신해 새로운 결정을 내리는 것은 아니다.

숏폼을 덜 보고 싶다. 충동구매를 줄이고 싶다. 자세를 바로잡고 싶다. 잠들기 전에는 스마트폰을 내려놓고 싶다.

결정은 이미 사람이 내렸다.

다만 그 결정은 피곤하거나 심심하거나 충동적인 순간에 쉽게 잊힌다. 물건은 과거의 내가 정해둔 방향을 현재의 나에게 다시 꺼내 보여준다.

현재의 나를 방해하지만, 과거의 내 편에 서 있다.

그래서 멈춰 세우면서도 돕는 물건이 될 수 있다.

아직 내리지 못한 판단을 요구하는 버튼

AI 승인 창은 다르다.

파일 14개를 지워도 되는지 나는 미리 결정해두지 않았다. 어떤 파일인지, 왜 지우려는지, 무엇과 연결돼 있는지도 그 순간 처음 본다.

그런데 시스템은 짧은 설명과 두 개의 버튼을 내놓고 바로 판단하라고 한다.

내가 이미 내린 결정을 지켜주는 것이 아니다.

아직 내리지 못한 결정을 그 자리에서 내리라고 한다.

나를 멈추는 물건은 내가 미리 내린 결정을 대신 지켜준다.

AI를 멈추는 팝업은 아직 내리지 못한 결정을 그 순간의 나에게 떠넘긴다.

마찰의 방향만 다른 것이 아니다.

시제가 다르다.

앞의 마찰은 과거의 나와 현재의 나를 잇는다. 뒤의 마찰은 시스템이 방금 만든 복잡한 상황을 현재의 나에게 압축해 넘긴다.

나를 멈추는 마찰은 물건이 된다.

내가 시스템을 멈추기 위해 감당해야 하는 마찰은 업무가 된다.

승인이 동작으로 바뀌는 순간

그 마찰이 반복 업무가 되는 순간, 승인 창을 읽는 방식도 달라진다.

처음에는 무슨 파일을 열려는지, 어떤 명령을 실행하려는지, 외부로 무엇을 보내려는지 확인한다.

비슷한 창이 반복되면 내용보다 익숙한 버튼의 위치가 먼저 보인다. 앞선 요청과 비슷해 보이면 같은 선택을 누른다. 매번 처음부터 맥락을 되짚기보다, 이전에 문제없었던 동작을 반복한다.

승인은 판단에서 동작으로 바뀐다.

그래도 구조는 여전히 안전해 보인다. 책임의 자리가 분명하기 때문이다. AI가 제안했고 사람이 승인했다. 문제가 생겨도 클릭 기록이 남는다.

그러나 클릭 기록은 사람이 충분히 이해했다는 기록이 아니다.

사람의 주의력이 바닥난 뒤에도 승인했다는 줄은 계속 쌓일 수 있다.

더 많은 팝업이 더 많은 판단을 만들지는 않는다.

잘못 설계된 승인 창은 판단을 돕는 곳에서 책임을 통과시키는 곳으로 바뀔 수 있다.

우리는 위험보다 귀여움을 먼저 읽었다

카NU리아의 OLED 눈이 커지고 서보모터가 몸을 젖혔을 때, 우리가 먼저 한 말은 위험하다가 아니었다.

귀엽다였다.

위험 신호를 설계한 우리부터 위험보다 귀여움을 먼저 읽었다.

귀여움 자체가 문제는 아니다. 신호는 먼저 눈에 띄어야 한다. 로그 안에 숨어 있는 위험보다 책상 위 물체의 움직임이 주의를 더 빨리 붙잡을 수 있다. 사람이 그 장치를 계속 곁에 두게 만드는 데에도 애정은 도움이 될 수 있다.

문제는 그다음이다.

눈이 커졌다는 사실만으로는 어떤 파일이 왜 위험한지 알 수 없다. 몸이 심하게 떨린다고 해서 위험이 정말 큰지도 알 수 없다.

우리가 보는 것은 시스템의 위험 그 자체가 아니다.

디자이너가 위험을 번역해놓은 표정과 움직임이다.

귀여움은 신호를 보게 했다.

그 신호가 얼마나 심각한지는 말해주지 않았다.

귀여움은 마찰을 견디게 할 수 있다. 판단을 대신할 수는 없다.

표정은 로그를 대신하지 못했다. 다만 로그를 열게 만드는 손잡이는 될 수 있었다.

그리고 아직 답하지 못한 질문이 남았다.

안전장치는 하루에 몇 번까지 사람을 멈춰 세울 수 있을까.

같은 경고가 반복돼 내용보다 버튼의 위치가 먼저 보이기 시작하는 순간, 그 장치는 이미 사람의 주의력을 다 쓴 것 아닐까.

위험을 몸짓으로 보여줄 때 귀여움은 어디까지 허용될 수 있을까.

우리가 위험보다 귀여움을 먼저 읽었다는 사실은 아직 규칙보다 질문에 가깝다.

인간의 한계를 보완하는 물건

사람의 행동에 끼어드는 물건들은 인간을 꽤 현실적으로 봤다.

사람은 쉽게 잊는다. 충동에 흔들린다. 자세가 무너진다. 피곤하면 스스로 정한 약속도 지키기 어렵다.

그래서 물건이 대신 기억한다.

필요한 순간에 끼어들고, 행동을 한 번 끊고, 과거의 결정을 현재로 가져온다. 사람의 약한 의지를 비난하지 않고 그 약함을 전제로 제품을 만든다.

AI를 멈추는 승인 창은 반대의 사람을 가정한다.

사람은 매번 집중하고 있다. 짧은 문장만으로 상황을 파악할 수 있다. 복잡한 영향을 즉시 계산할 수 있다. 비슷한 요청이 반복돼도 같은 깊이로 판단한다.

사람을 위한 물건을 만들 때는 인간의 한계를 제품이 보완했다.

AI를 멈추는 인터페이스에서는 인간의 한계가 안전장치의 전제가 됐다.

그래서 두 버튼이 있어도 마지막 칸은 여전히 비어 있을 수 있다.

아직 없는 물건

카NU리아는 지금도 놀랄 수 있다.

전원을 꽂으면 눈이 커지고 몸이 젖혀진다.

그 얼굴 앞에서 손을 흔들어도 아무 일도 일어나지 않는다.

사람의 행동에 끼어드는 물건은 하루 동안 16개가 나왔다. 충동을 한 번 끊고, 화면을 내려놓게 하고, 자세를 바로잡는 마찰이 물건의 모습으로 만들어졌다.

반면 참가자들이 직접 제출한 해커톤 출품작 가운데, 사람의 거절이 실제 AI의 행동을 멈추는 데까지 구현된 사례는 0개였다.

과거의 결정을 지켜주는 마찰은 물건이 됐다.

지금 내린 거절을 실제 AI의 행동까지 전달하는 마찰은 아직 두 개의 버튼에 머물러 있었다.

[허용]  [취소]

[^1]: 41개 작품을 사용자의 행동을 감지하고 중단, 교정 또는 상기하는지를 기준으로 다시 분류했다. 숫자는 공개 갤러리 소개문과 제출 자료를 기준으로 했다.