인공지능 AI와 사기 탐지에 스포트라이트 - 주요 기업들의 안전조치와 전략

인공지능 AI, 사기 탐지를 위한 신기술: 주요기업들이 취한 대응 전략

최근에는 사기나 속임수의 국제적인 이슈로서 인공지능(AI)의 활용이 많이 논의되고 있습니다. 이런 문제를 해결하기 위해 Google과 오픈AI를 비롯한 미국의 7개 주요 기업들이 나서 워터마크를 통한 AI 안전조치를 확정하였습니다.

사실 가짜 뉴스와 조작 정보는 폭발적으로 증가하고 있습니다. 특히, 트럼프 전 대통령의 사진이나 펜타곤의 연기 사건 등을 보면 AI가 만든 가짜 콘텐츠의 위험성을 더욱 깨닫게 됩니다.

음바페, 이강인 관련 논란이 된 가짜 콘텐츠

문제는 기하급수적으로 크게 늘어나는 상황에서, 주요 기업들은 이런 위협에 대응하기 위한 창의적인 방법을 찾아내기로 결정하였습니다. 이번에는 AI로 만든 콘텐츠에 워터마크를 넣는 안전조치를 확정하였습니다. AI의 기능과 문제점, 그리고 적절한 사용 영역 등을 공유하며, AI의 사회적 위험성에 대해서도 심도 있는 연구에 나서기로 하였습니다.

이러한 조치는 오픈AI의 챗GPT 출시와 관련하여 AI 활용에 대한 우려가 점차 늘어나는 상황에서 나타나게 되었습니다. 특히 올해 11월 미국 대선 때 정보 조작이나 가짜뉴스가 심각한 수준에 도달할 수 있다는 우려가 크게 작용하였습니다.

테슬라 CEO인 일론 머스크는 인공지능의 위험성에 대해 사회적으로 크게 논의하고 있습니다. 그는 "AI는 우리의 삶을 크게 향상시키고 풍요롭게 만들 수 있는 가능성이 크지만, 반면에 인류를 파괴할 수도 있다."고 경고하였습니다.

미국 정부는 이런 심각한 이슈에 대해 대응하기 위해 백악관이 '첫 AI 정책'으로 먼저 나서고 있습니다. AI의 잠재력을 활용하면서 시민의 권리와 안전을 보장할 수 있는 대책을 마련하겠다는 의지를 밝혔습니다. 이에 조 바이든 대통령은 이번 조치가 실질적인 정책이 될 것이라며 회피적인 기대감을 나타냈습니다.

아직 법적인 강제성이 없지만, 조만간 행정명령을 통해 대처할 계획을 발표하였습니다. 한국을 비롯한 20개 동맹국과 협력하여 AI의 개발과 사용을 관리하는 국제적 연대를 추구하겠다는 입장이 이어졌습니다.

네티즌 반응

“인공지능이 주는 위협을 회피하는 방법을 찾는 게 실상 중요하겠습니다. 기업들이 올바른 방향으로 나아가길 바랍니다.”

“조 바이든 대통령의 AI 정책은 흥미롭네요. 우리 나라에서도 AI 안전성에 대해 더욱 신경써야 한다고 생각합니다.”

“AI가 만든 가짜뉴스는 어디까지인가… 그러나 이런 문제를 해결하려는 노력은 확실히 흥미롭습니다. 특히 워터마크 활용 아이디어는 저도 동의합니다.”

---

궁금한 이야기들

Q. 속임수나 사기에 AI 기술이 어떻게 활용되나요?

A. AI 기술은 이미지, 동영상, 텍스트 등 속성을 합성하거나 변형하여 새로운 콘텐츠를 만드는 데 활용됩니다. 이 기술이 부정확하게 사용되면 실제와 구별하기 어려운 가짜 콘텐츠가 생산되어 사람들을 혼란스럽게 하거나 오해를 줄 수 있습니다. 예를 들어, 논문에서 언급된 것처럼 미국 전 대통령의 사진이 수정되어 불법적인 활동을 하는 것처럼 가짜로 만들어져 사회적 혼란을 일으킨 사례가 있습니다. 이러한 이유로 AI를 사용한 사기나 속임수는 큰 문제로 인식되고 있습니다.

Q. 미국의 7개 주요 기업들이 AI로 만든 콘텐츠에 워터마크를 넣는다는 것은 어떤 의미인가요?

A. AI로 만든 콘텐츠에 워터마크를 넣는다는 것은, 해당 콘텐츠가 인공지능에 의해 생성되었음을 나타내는 하나의 표시나 표식을 추가한다는 의미입니다. 이는 사용자들이 AI로 생성된 콘텐츠임을 알 수 있도록 하여 사기나 속임수를 방지하는 한 가지 방법이 될 수 있습니다. 실제로 여러 기업들은 이러한 방법을 도입하여 사용자들의 정보를 보호하고자 하는 노력을 보여주고 있습니다.

Q. "첫 AI 정책"이라는 백악관의 태도는 어떤 뜻인가요?

A. 백악관이 "첫 AI 정책"이라고 표현한 것은, 이번 조치가 AI를 감독하고 관리하는 데 있어서 유의미한 첫 단계라는 것을 의미합니다. 이전에는 AI에 대한 규제나 정책이 없었기 때문에 이번 조치는 중요한 전환점을 나타내며, AI의 안전성과 신뢰성을 위한 앞으로의 노력의 첫걸음이라고 볼 수 있습니다.

Q. '행정명령'이라는 것은 무엇인가요?

A. '행정명령'은 대통령이나 정부의 장관 등 고위 공무원이 행정 부서 내에서 직접 발행하는 지시나 명령을 의미합니다. 이는 법률과 같은 효력을 가지는 것이 아니라, 행정적인 내용을 지시하거나 명령하는 것입니다. 예를 들어, 이 기사에서 언급된 '행정명령'은 미국의 AI 정책을 위한 구체적인 지침을 설정하거나, AI 관련 활동에 대한 제한을 명시하는 것을 포함할 수 있습니다.