AI 워싱

AI 워싱(AI Washing)은 실제로는 인공지능(AI)과 무관하지만 AI 기반의 제품이나 서비스인 것처럼 거짓으로 홍보하는 행위이다.

상세

AI 워싱은 자사의 제품이나 서비스가 실제로 인공지능(AI) 기술과 무관하거나 크게 관련이 없음에도 불구하고 마치 최첨단 AI 기술을 기반으로 한 제품이나 서비스인 것처럼 주장하는 기업의 부정직한 행위를 일컫는다. 최근 AI 기술이 미래의 기술로 대중의 폭발적인 관심을 받으면서 많은 기업들은 AI를 내세워 마케팅 전략으로 활용하고 있다. AI가 제품에 어떻게 사용되었는지에 대한 자세한 설명없이 자사 제품을 AI 기반 제품으로 과장해서 홍보하는 이유는, AI 기업 또는 AI 제품이라고 하면 일단 소비자의 관심을 유도할 수 있고 단기적인 매출을 늘릴 수 있기 때문이다. 또한 대규모 투자를 유치하거나 회사 주가를 올리는 데에도 도움이 될 수 있다. 하지만 이러한 AI 워싱은 소비자를 오도하고 투자자에게 해를 끼칠 수 있다.

2023년 말, 미국 증권거래위원회(SEC) 위원장 게리 겐슬러(Gary Gensler)가 기업들에게 AI 워싱을 하지 말 것을 경고하면서 이 용어가 널리 알려지게 되었다. 그는 기업들이 AI 사용과 AI의 특정 비즈니스 기능에 관한 구체적인 운영, 경쟁 및 법적 위험을 공개할 것을 촉구했으며, 이에 앞서 미국 연방거래위원회(FTC)도 2023년 2월 AI 기반 제품의 허위·조작 광고 등을 단속할 것이라고 밝힌 바 있다. 기업이 실제로는 환경에 좋지 영향을 끼치는 제품이나 서비스를 생산하면서도 마치 친환경 제품을 생산하거나 친환경 경영을 하는 것처럼 허위·과장 광고를 하는 그린워싱(Greenwashing), 클라우드 기반 솔루션이 아닌 제품이나 서비스를 클라우드 기반 솔루션이라고 과장해서 홍보하는 클라우드워싱(Cloud washing)과 유사한 개념이라 할 수 있다.

특징 및 부작용

AI 워싱은 기업이나 제품이 실제로는 인공지능 기술을 사용하지 않으면서도 마치 인공지능을 광범위하게 활용하는 것처럼 홍보하는 행위로, AI 열풍을 이용한 마케팅 전략의 일환이다. 이 현상은 환경 친화적이지 않은 기업이 마치 친환경적인 것처럼 홍보하는 그린워싱(Greenwashing)과 유사하다. AI의 정의가 광범위하고 느슨하게 사용되는 점도 AI 워싱의 발생 배경 중 하나로 여겨진다.

하는 이유

기업은 AI의 사용을 강조함으로써 투자자에게 매력적인 투자 대상으로 인식되며, 더 많은 자본을 유치할 수 있다. 또한, AI를 통한 혁신적이고 기술 선도적인 이미지를 구축하여 비즈니스에서 경쟁사보다 유리한 위치를 점하려고 한다.

• 투자 유치 : 포브스(Forbes)에 따르면 AI를 언급한 스타트업이 그렇지 않은 스타트업보다 자금을 15%에서 50% 더 많이 확보하는 경향이 있다. 이로 인해 AI 역량을 과장하는 기업이 증가하고 있으며, 일부 기업은 자금 조달을 위해 AI 역량을 부풀리고, 창업자들은 AI 언급이 없으면 불리하다고 생각하는 경향이 있다. 이로 인해 AI 역량을 주장하는 기업과 실제 AI 기업 사이에 상당한 차이가 존재한다. 또한, 영국 벤처캐피털 펀드 MMC벤처스(MMC Ventures)의 2019년 조사에 따르면 유럽의 AI 스타트업 중 40%가 사실상 AI를 전혀 사용하지 않는 것으로 나타났다.
• 시장 경쟁력 확보 : 가전제품 제조업체가 자사 제품에 AI 기술이 적용되었다고 주장하면, 소비자는 해당 제품이 더 스마트하고 혁신적이라고 생각하여 구매 의사가 높아질 가능성이 있다. 기업은 AI 기술을 사용하여 기술적 우월성을 강조하고 시장에서 리더로 자리매김하고자 하지만, 실제로는 인터넷을 통해 작동하는 시스템을 AI 시스템이라고 홍보하거나 상담 챗봇을 추가하는 정도에 그치는 경우가 많다.

문제점

AI 워싱은 널리 사용되는 마케팅 기법으로 보일 수 있으나, 이로 인해 자원의 적절한 배분이 방해되거나 소비자의 과도한 기대감이 유도될 수 있다. 이러한 현상은 궁극적으로 신뢰의 저하를 초래하며, 여러 가지 부정적인 결과를 가져올 수 있다.

• 자원 배분의 비효율성 : 혁신적인 기술을 보유하고 있다고 주장하는 기업에 소비자와 투자자들의 관심과 자금이 집중될 수 있다. 이로 인해 AI 워싱을 하는 기업에 자원이 집중되면, 실제로 혁신 기술을 보유한 기업이나 프로젝트는 필요한 자금을 적시에 확보하기 어려울 수 있다.
• 소비자 신뢰의 감소 : AI 워싱을 사용하는 기업이 증가하면, 소비자는 AI 기술의 성능에 대해 의문을 가지게 된다. 실제 사용에서 부정적인 경험이 쌓이면 AI 기술에 대한 신뢰가 낮아질 수 있다. 반복적으로 과장된 주장을 접한 소비자는 AI 기술을 불신하게 되며, 이는 AI 제품과 서비스의 구매 기피로 이어질 수 있다. 결과적으로 진정한 AI 기술을 제공하는 기업에 부정적인 영향을 미칠 수 있다.
• 기업의 자원 낭비 : AI 워싱을 의식하여 정상적인 기업들이 비현실적인 목표를 설정하고 추진할 경우, 프로젝트 실패로 인한 손실이 발생할 수 있다. 또한 선택과 집중의 실패로 인해 혁신이 지체되는 등 부정적인 결과를 초래할 수 있다. 기업이 실질적인 AI 역량 개발 대신 피상적인 개선에 과도한 투자를 할 경우, 기술 발전이 저해될 수 있다. 이는 진정 가치 있는 AI 솔루션을 모색하는 기업의 의사 결정을 복잡하게 만들어 디지털 전환 노력을 방해하고 혁신을 저해하며 성과를 악화시킬 수 있다.

사례

아마존고

무인 매장 아마존고(Amazon Go)의 저스트 워크 아웃(Just Walk Out) 시스템은 고객이 매장을 떠날 때 자동으로 결제가 이루어진다고 알려져 있었다. 그러나 실제로는 인도 지사의 직원들이 수동으로 검토하는 과정이 포함된 것으로 확인되었다. 이 매장은 개별 제품에 센서나 칩을 부착하지 않고, 천장에 설치된 센서가 고객과 제품을 실시간으로 추적하는 딥러닝 기술을 적용한다고 설명되었으나, 전체 시스템의 많은 부분이 1천여 명의 인도 지사 직원들이 각 매장 카메라를 통해 수동으로 점검하는 방식으로 운영되었다는 사실이 드러났다. 이러한 사실이 알려지면서 AI 워싱 논란이 제기되었다. 아마존고는 결제 청구 과정에 인간이 개입한다는 점은 인정했으나, 직원들이 저스트 워크 아웃 시스템을 개선하기 위해 AI가 생성한 데이터에 주석을 달 뿐 전체 운영에는 관여하지 않는다고 주장하고 있다.

준코

채용 스타트업 준코(Joonko)는 AI를 활용해 기업에 적합한 지원자를 추천한다고 주장하며 투자 자금을 유치했으나, 미국 증권거래위원회(SEC)와 법무부에 의해 기소되었다. SEC는 준코가 AI를 기반으로 지원자를 선발한다고 속여서 고객 정보, 지원자 수, 기업 수익에 대한 허위 및 오해의 소지가 있는 주장을 하여 최소 2천100만 달러의 투자를 유치한 혐의로 준코의 CEO이자 창립자인 일릿 라즈(llit Raz)를 기소했다. 준코는 AI를 사용하여 기업이 다양성과 형평성, 포용성을 존중하는 인력 조직을 구축하는 데 도움을 준다고 주장했으나, 조사 결과 이러한 주장은 거짓으로 판명되었다. 라즈는 투자 유치 시 준코가 포춘(Fortune) 500대 기업을 포함해 100개 이상의 고객사를 보유하고 있으며, 100만 달러 이상의 수익을 올렸고, 10만 명 이상의 활성 구직자와 협력하고 있다고 허위 정보를 제공했다. 또한, 의심하는 투자자들에게 위조된 은행 거래 내역서와 계약서를 제공하여 허위 정보 유포 사실을 은폐하려 했다는 혐의를 받고 있다.

델피아 및 글로벌프레딕션스

미국 증권거래위원회는 AI의 활용 범위에 대해 허위 및 오해를 일으킬 수 있는 진술을 한 혐의로 투자 자문사 델피아(Delphia)와 글로벌프레딕션스(Global Predictions)를 기소하였다. 이 두 회사는 제기된 혐의를 해결하기 위해 각각 22만 5천 달러와 17만 5천 달러의 벌금을 지불하는 것으로 합의하였다. 델피아는 AI를 사용하여 특정 기업과 트렌드의 성장을 예측하고, 이를 통해 고객이 선제적으로 투자할 수 있는 정보를 제공한다고 주장하였으나, 증권거래위원회는 실제로 델피아가 AI 및 머신러닝 기술을 보유하고 있지 않다고 결론지었다. 델피아는 등록된 투자 자문사가 중요 사실에 대한 허위 진술을 포함한 광고를 배포한 것에 대해 추가로 기소되었다.

글로벌프레딕션스는 자사의 웹사이트, 소셜미디어, 이메일을 통해 자사가 최초의 AI 금융 자문사로서 전문가 수준의 AI 기반 예측을 제공한다고 주장했으나, 이러한 주장에 대한 근거를 제시하지 못했으며 실제로는 AI 기술을 사용하지 않았다. 이들은 웹사이트와 유튜브 채널에서 실제 고객 데이터가 아닌 가상의 성과 데이터를 공개하면서 이를 명시하지 않아 증권거래위원회 규정을 위반하였다. 또한, AI 기반 예측 시스템의 우수성을 홍보했으나 실제로는 AI를 사용하지 않았던 것으로 밝혀졌다. 이러한 규정 위반에 대한 시정 조치로서, 마케팅 및 교육 자료 검토를 위한 규정 준수 컨설턴트를 고용하기로 증권거래위원회와 합의하였다.

오토메이터스 AI

오토메이터스 AI(Automators AI)는 자사의 AI 기술을 통해 온라인 스토어의 판매량을 자동으로 증가시킬 수 있다고 주장하며 투자를 유치한 혐의로 연방거래위원회(FTC)에 의해 기소되었다. 이 회사는 아마존이나 월마트와 같은 플랫폼에서 운영되는 온라인 스토어 사업자들에게 자사의 AI 기술을 활용하면 매달 4천 달러에서 6천 달러의 순이익을 얻을 수 있으며, 8개월 후에는 100% 투자 수익률을 달성할 수 있다고 홍보하였다. 그러나 이러한 주장은 허위로 드러났고, 실제로는 AI 기술이 활용되지 않았으며, 대부분의 고객이 수익을 얻지 못하고 투자금도 회수하지 못한 것으로 확인되었다. 이에 따라 연방법원은 오토메이터스 AI의 운영을 중단시키고, 관련자들에게 영구적인 사업 기회 박탈과 함께 2천 200만 달러의 배상을 명령하였다.

오랄비

P&G의 구강 관리 브랜드 오랄비(Oral-B)는 고가의 전동 칫솔을 판매하면서 AI가 치아 위치와 밝기 등을 분석하여 이를 통해 이가 잘 닦였는지를 판단할 수 있다고 광고하였다. 그러나 워싱턴포스트는 이 칫솔에 AI 기능이 어떻게 적용되는지에 대한 질문에 대해 회사가 구체적인 답변을 제공하지 않았다고 보도하였다. 오랄비는 해당 칫솔이 AI 기술을 사용하여 사용자의 칫솔질 습관을 실시간으로 분석하고 맞춤형 피드백을 제공한다고 주장했으나, 소비자와 전문가들은 이러한 기능의 효과성에 대해 의문을 제기하였다. 일부 사용자는 칫솔이 제공하는 피드백이 개인화되지 않았거나 예상보다 단순하다고 불만을 표출하였다.

코카콜라

코카콜라는 AI를 활용하여 새로운 음료를 개발했다고 홍보하였으나, 이는 AI 워싱이라는 비판을 받았다. 코카콜라 Y3000이라는 제품은 3000년대의 상상을 담아 AI와 함께 제품을 개발했다고 밝혔으나, AI가 개발 과정에서 어떻게 기여했는지에 대한 구체적인 설명은 부족하였다.

피하는 방법

AI 기술의 지속적인 발전에 따라 AI 워싱에 대한 규제와 소비자 보호의 중요성이 더욱 강조되고 있다. 기업은 투명한 AI 사용을 통해 소비자와 투자자의 신뢰를 확보하고, 진정한 혁신을 이루는 것이 필요하다.

정부 및 기업

• 규제 강화 : 정부는 AI 워싱을 방지하기 위해 규제를 강화할 필요가 있다. 이를 통해 기업들이 AI 사용의 투명성을 높이고 허위 주장을 하지 않도록 유도할 수 있다. 미국 증권거래위원회(SEC), 법무부, 연방거래위원회(FTC)는 AI 워싱을 행하는 기업에 대해 기소하거나 높은 벌금을 부과하는 조치를 취해 왔다. 이러한 조치는 AI와 관련된 허위 또는 오해의 소지가 있는 주장을 단속하겠다는 경고의 메시지를 전달하는 것이다. SEC는 최근 대형 금융사인 JP모건체이스 등을 대상으로 AI 사용 실태에 대한 조사를 시작했다. 이 조사는 고객 포트폴리오 관리에 사용되는 AI 알고리즘 모델, 관련 마케팅 자료, 데이터 제공 현황, 컴플라이언스 교육 사항 등을 포함한다. FTC는 기업들에게 AI 제품의 기능을 과장하지 않고, AI 제품이 비AI 제품보다 우수하다고 홍보하지 않으며, 제품이 실제로 AI를 사용하는지 등에 대해 자기 검열을 강화할 것을 권장하고 있다. 영국 광고표준위원회(ASA)는 AI 워싱을 방지하기 위한 규칙과 법률을 제정하였으며, 이에는 AI와 관련된 오해의 소지가 있는 진술을 금지하는 조항이 포함되어 있다.

• 투명한 기술 사용 및 정보 제공 : 기업은 실제 사용한 AI 기술에 대해 투명한 정보를 제공해야 하며, 규제 기관의 감사나 외부 의혹에 대비하여 기록과 문서화를 철저히 해야 한다. AI 기술을 홍보할 때 허위 주장을 피하고 관련 정보를 투명하게 제공함으로써 소비자와 투자자에게 신뢰를 구축해야 한다. 또한, 기업 내부의 각 부서가 협력하여 AI 기술 사용에 대한 정확한 정보를 공유하고, AI 기술이 실제로 어떻게 사용되는지에 대한 상세한 기록을 남기며 정기적으로 업데이트해야 한다.

• 소비자 교육 : 정부와 기업은 소비자들이 AI 기술에 대한 이해를 높이고 AI와 관련된 과장된 주장에 현혹되지 않도록 교육 프로그램을 운영할 필요가 있다. 이러한 교육 프로그램을 통해 소비자는 AI 기술의 한계와 실제 활용 가능성에 대해 명확히 이해함으로써 과대 광고나 허위 투자 유치에 속지 않는 역량을 갖출 수 있다.

소비자 입장

• 비판적 태도 유지 : 소비자와 투자자는 기업이 AI를 활용한다고 주장할 때 비판적인 태도를 유지해야 한다. 사용된 AI 모델과 알고리즘 등 기술적인 세부사항에 대해 구체적인 설명이 제공되는지를 확인하고, 기업이 관련 데이터와 알고리즘의 투명성을 지키는지를 점검할 필요가 있다. 소비자와 투자자는 스스로 정보를 검토하고 검증하는 태도를 갖는 것이 중요하다. 기업이 AI 기술을 혁신적 또는 지능적이라고 단순히 주장하는 것에 대해 비판적인 시각을 가지는 것이 필요하다.
• 투명한 설명 요구 : 소비자는 AI 시스템의 작동 방식에 대해 명확한 설명을 요구하여 기업이 기술의 실제 성능과 한계에 대한 정확한 정보를 제공하도록 유도해야 한다. AI 시스템의 데이터 출처, 알고리즘의 작동 방식, 정확성을 높이기 위한 조치 등에 대한 상세한 설명을 요구할 필요가 있다. 데이터와 알고리즘의 편향이나 AI 환각을 방지하기 위한 해결책이 부족한 경우, 기업이 실제로 AI를 사용하지 않았을 가능성도 고려해야 한다.

참고자료

• 〈AI 워싱 (AI Washing)〉, 《두산백과》
• 김현수·신아영 기자, 〈美 SEC “투자수익 과장하는 AI워싱 위험”… 월街 실태 전수조사〉, 《동아일보》, 2023-12-12
• 신정은 기자, 〈美 '무늬만 AI' 기업 잡는다〉, 《한국경제》, 2024-03-19
• 이재구 기자, 〈‘AI세탁’ 기업에 정부차원 응징할 정도?···뭐가 문제?〉, 《테크42》, 2024-07-01
• 이해인 기자, 〈'AI 가면'만 쓴 허세기업 주의보〉, 《조선일보》, 2024-08-06
• 송원호 책임연구원, 〈너도나도 AI 말로만 AI 외치는 'AI 워싱' 주의보〉, 《KB금융지주 경영연구소》, 2024-08-19
• 이정원 기자, 〈아마존, 코카콜라도 피할 수 없던 ‘AI 워싱’ 논란…대안은?〉, 《위즈경제》, 2024-08-19
• 한아란 기자, 〈‘무늬만 인공지능’ 내세운 ‘AI 워싱’ 투자 주의보 [WM 소비자보호]〉, 《웰스매니지먼트》, 2024-08-21
• 강진규 기자, 〈이번엔 AI워싱?...금융권 '제2 그린워싱' 재현 우려〉, 《디지털투데이》, 2024-08-23
• 김연균 기자, 〈(기자수첩)그렇지도 않으면서 그런 척하는 ‘AI 워싱’〉, 《정보통신신문》, 2024-08-30
• 곽재민 기자, 〈알고보니 사람 1000명이 일일이 작업…아마존도 '무늬만 AI'?〉, 《중앙일보》, 2024-09-05
• 곽재민 기자, 〈AI 쓴다더니 몰래 사람이…아마존도 딱 걸린 ‘가짜 AI’〉, 《중앙일보》, 2024-09-06

같이 보기

• 인공지능
• 그린워싱
• 클라우드워싱

이 AI 워싱 문서는 인공지능 기술에 관한 글로서 검토가 필요합니다. 위키 문서는 누구든지 자유롭게 편집할 수 있습니다. [편집]을 눌러 문서 내용을 검토·수정해 주세요.

인공지능 : 인공지능 서비스, 인공지능 로봇, 인공지능 기술 □■⊕, 인공지능 기업, 인공지능 인물 인공지능 기술 AI 워싱 • 로봇공학 • 로봇기술 • 인지과학 • 자동추론 • 자연어 처리 • 지능 • 지식표현 • 컴퓨터 비전 • 튜링 테스트 • 프롬프트 문자인식과 음성인식 ICR • OCR • OMR • STT • TTS • 문자인식 • 음성인식 • 화자인식 인공지능 데이터 데이터라벨러 • 데이터라벨링 • 데이터셋 • 크라우드워커 • 토큰 • 토큰화 인공지능 학습 ADP • CoLLM • DALL-E • DDPG • DQN • LMM • SARSA • SLM • 강화학습 • 거대언어모델(LLM) • 결정이론적 메타추론 • 계통적 강화학습 • 동적 계획법 • 딥러닝 • 딥큐러닝 • 머신러닝(기계학습) • 모델 기반 강화학습 • 모델 프리 강화학습 • 반영식 아키텍처 • 비지도학습 • 사전학습 • 수시 알고리즘 • 심층믿음망 • 어니 • 에이전트 • 인공지능 학습 • 지도학습 • 학습 • 확률적 경사하강법 인공지능 알고리즘 AGI • ANI • ASI • RAG • XAI • 관계형 네트워크(RN) • 다층퍼셉트론 • 데이터마이닝 • 방사신경망 • 분산 샌드박스 • 생성대립신경망(GAN) • 생성형 AI • 수퍼얼라인먼트 • 순전파 • 순환신경망(RNN) • 시그모이드 함수 • 신경망 구조 • 심층신경망(DNN) • 심층신뢰신경망(DBN) • 양방향 비고정값 암호 체계(TSID) • 역전파 • 인공신경망(ANN) • 인공지능(AI) • 제한 볼츠만 머신(RBM) • 전방전달신경망 • 코헨 자기조직 신경망 • 텍스트마이닝 • 트랜스포머 • 파이 • 퍼셉트론 • 합성곱 신경망(CNN) 계산복잡도 NP • NP-완전 • 계산복잡도 • 공간복잡도 • 시간복잡도 • 여 NP • 여 NP-완전 인공지능 프로그램 BCI • GPT • 딥블루 • 딥페이크 • 멀티모달 AI • 모달 • 모달리티 • 모달창 • 알렉스넷 • 어니 • 알파고 • 알파고제로 • 알파폴드 • 왓슨 • 카페 • 컨트롤넷 • 텐서플로 • 텔레파시 • 토치 • 한돌 인공지능 특징 결정이론 • 계산상의 합리성 • 논리학 • 논리주의자 • 분산성 • 불확실성 • 삼단논법 • 선호도 • 예측곤란성 • 완벽한 합리성 • 유계 합리성 • 이유 불충분의 원리 • 자율성 • 최대기대효용 • 할루시네이션 • 효용이론 인공지능 법적 지위 권리주체성 • 소버린 AI • 전자대리인 • 전자적 인간 • 책임법 위키 : 자동차, 교통, 지역, 지도, 산업, 기업, 단체, 업무, 생활, 쇼핑, 블록체인, 암호화폐, 인공지능, 개발, 인물, 행사, 일반