AI 환각
AI 환각은 인공지능이 거짓이거나 만들어낸 정보를 사실인 것처럼 제시하는 현상으로, 정확한 정보와 동일한 확신을 가지고 전달합니다. 브랜드에 적용될 경우, 사업 내용, 가격, 경영진 또는 위치에 관한 내용이 해당될 수 있습니다.
문제는 AI가 '거짓말'을 한다는 것이 아닙니다. AI는 자신이 알고 있는 정보를 바탕으로 가장 가능성 높은 단어의 연속을 생성하며, 정보가 부족할 때 빈 공간을 채워 넣습니다. 온라인 상에 거의 존재하지 않거나, 희귀하거나 오래된 출처만 있는 브랜드는 바로 이러한 만들어진 정보가 생성되기 가장 좋은 환경입니다.
환각은 직접적으로 수정할 수 있는 경우가 거의 없습니다 — ChatGPT의 답변을 수정하는 양식은 존재하지 않습니다. 환각은 사전에 AI에게 귀사의 브랜드에 대한 최신의 일관된 출처를 제공함으로써 수정됩니다. 이것이 바로 AI가 만들어낸 정보에 관한 저희 가이드의 핵심 주제입니다.