[단상] 인공지능의 "환각" 혹은 인간 심리를 이용한 "장난"

어쩌다 보니, 누군가가 AI로 검색한 내용의 검증을 맡게 됐습니다.

개략적으로 설명하자면,

독립유공자로 지정되어 있던 한 인물이 있습니다.

그런데 보훈처에서 지난해 특정한 이력을 문제삼아 독립유공자에서 탈락될 수 있음을 알려왔지요.

(개인적으로는 보훈처의 방식이 다소 무리한 접근이라고 생각합니다만 제 생각이 중요한 건 아니니까요.)

그래서 그 후손인 사람은 근거를 찾느라 이리저리 애를 쓴 모양입니다.

최근에는 인공지능을 활용해 이런저런 자료들을 긁어모았는데, 어쩌다 보니 그 검증의 일부를 제가 맡게 됐습니다. (보훈처가 아니라 그 후손쪽에서요)

제가 인공지능을 활용하지 않다보니 정확히 어떤 메커니즘인지는 모르겠는데, perplexity를 이용한 것으로 보이고(문서 제목에 써있습니다) 62페이지에 걸쳐 여러 차례의 문답이 진행된 것 같습니다.

그 중에 22개의 참고문헌이 등장하는데, 그 참고문헌이 "실재"하는 것인지 찾는 걸 맡게 됐지요.

22개 중 6개를 찾아보았는데, 그 어디에도 검색되지 않습니다.

나머지 16개를 더 찾아보아야 정확한 결론이 나겠지만, 만일 그 가운데 하나도 실재하지 않는 문건이었다면 대체 이걸 어떻게 봐야할까요.

이걸 그냥 환각이라고 불러야 할지, 간절한 사용자의 심리를 이용한 '장난'이라고 봐야할지 모르겠습니다.