사람은 AI를 언제 멈춰 세우는가
AI에게 터미널을 맡기면 위험해 보이는 작업 앞에서 실행해도 되는지 묻습니다. 이 물음이 안전장치 노릇을 한다고 다들 생각하는데, 실제로 무엇을 거르고 있는지는 세어 본 적이 없었습니다. 작업 기록에 남은 도구 호출 102,171건을 꺼내 거부된 것을 갈라 봤습니다. 거부는 306건, 0.3%였습니다. 거의 다 통과시킨다는 뜻입니다. 그런데 거부된 306건이 한쪽으로 완전히 쏠려 있었습니다. 306건 전부가 로컬 셸 명령이었고…