덴마크 총리, ‘빅테크의 목표는 인공지능을 통한 민주주의 파괴’
인공지능을 개발하는 세력이 민주주의를 무너뜨리는 것을 목표로 삼고 있다는 발언이 유럽 현직 정상의 입에서 나왔다. 메테 프레데릭센 덴마크 총리는 지난달 12일에 개최된 코펜하겐 민주주의 정상회의 대담에서 AI, 빅테크, 자본, 정치권력이 하나로 연결된 구조가 민주주의를 겨냥하고 있다고 경고했다. 그녀는 이 자리에서…
태그: 인공지능
없는 증상 기록하고, 약물 정보 틀리고… 온타리오 의료 AI 감사 결과의 실체
캐나다 온타리오 주 감사원이 의료용 AI 진료 기록 보조 시스템 20개를 평가한 결과, 절반에 가까운 9개 시스템이 실제 진료 녹음에 전혀 등장하지 않는 내용을 환자 기록에 만들어 넣는 이른바 ‘환각’ 현상을 일으킨 것으로 나타났다. 20개 중 12개는 잘못된 약물 정보를…
민주주의의 심장인 선거를 겨냥하는 인공지능의 보이지 않는 손
인공지능이 생성한 가상 인물들이 소셜 미디어에서 실제 사람처럼 여론을 조작하는 시대가 머지않았다는 경고가 학계에서 나왔다. 이미 미국, 영국, 이스라엘 등이 군 차원의 소셜 미디어 선전 부대를 운영하다 적발된 사례가 있고, 현재 온라인 콘텐츠의 절반가량이 자동화된 봇에 의해 생산된다는 분석이 나오는…
한타바이러스 질문을 차단하는 인공지능 서비스
2026년 5월, 크루즈선 MV 혼디우스에서 한타바이러스가 번지며 3명이 숨지고 26명 이상이 감염된 가운데, 이 바이러스에 관한 정당한 질문들이 인공지능 챗봇에 의해 연달아 차단되고 있다. 질문한 사람이 유해한 정보를 요구한 것도, 바이러스 제조법을 물은 것도 아니었다. 언론 보도 간 차이를 확인하거나…
동의 없이 4GB AI 모델을 ‘몰래 설치’하는 구글 크롬
구글이 전 세계 수십억 명이 사용하는 크롬 브라우저를 통해 사용자 동의 없이 약 4GB 규모의 인공지능(AI) 모델을 기기에 몰래 내려받고 있다는 사실이 보안 연구자의 조사로 드러났다. 더 심각한 문제는 사용자가 이 파일을 직접 찾아 삭제하더라도, 브라우저를 재시작하는 순간 아무런 고지…
AI 환각, 최고 모델도 피할 수 없다
대규모 언어 모델이 문서를 보여주고 질문을 던졌을 때 없는 사실을 만들어내는 비율이 얼마인지를 측정한 논문이 올해 3월 발표됐다. 미국 AI 스타트업 카미와자(Kamiwaza)의 연구진이 1,720억 토큰, 즉 영문 단어 약 1,300억 개 분량의 실험 데이터를 토대로 내린 결론은 단호하다. 환각을 완전히…
인공지능이 보낸 세 개의 불길한 신호
아랍에미리트에 위치한 아마존 데이터 센터 두 곳이 미국의 군사 행동에 대한 이란의 보복 공격을 받았다. 바레인의 또 다른 시설도 인근에 드론이 낙하하면서 피해를 입었다. 미국의 선제공격에는 AI 기반 표적 선정 시스템이 활용됐고, 보복의 표적이 된 데이터 센터 자체가 AI 인프라의…
윈도우의 감시 시스템으로의 변화를 경고하는 보안 전문가
보안 전문가 롭 브랙스먼이 운영하는 유튜브 채널 ‘롭 브랙스먼 테크(Rob Braxman Tech)’가 윈도우를 향한 사용자들의 분노가 거세지는 이유를 분석했다. 강제 마이크로소프트 계정 연동, 작업 표시줄에 불쑥 나타나는 코파일럿 버튼, 메모장과 그림판에 심어진 AI 기능, 시작 메뉴의 광고, 사용자가 요청하지도 않은…
AI가 정부 행정을 대체할 때, 시민은 데이터가 된다
수십 년간 테크노크라시를 연구해온 패트릭 우드는 자신이 운영하는 미디어 ‘테크노크라시 뉴스 앤 트렌드’에 최근 알렉세이 알마마토프가 기고한 글을 소개하며 주목할 만한 경고를 전했다. 우드에 따르면, 테크노크라시란 기술을 매개로 사람들의 모든 경험을 ‘행동 데이터’로 환원하고, 이를 분석, 예측, 관리의 도구로 삼는…
인공지능 군사화의 갈림길 – 앤스로픽의 거절과 오픈AI의 도약
도널드 트럼프 대통령이 연방 기관들에 앤스로픽의 AI 제품 사용을 즉각 중단하라고 명령한 지 불과 몇 시간 뒤, 미 중부사령부(CENTCOM)는 이란을 향한 대규모 공습을 감행했다. 이 작전에는 앤스로픽의 AI 모델 클로드가 정보 분석, 표적 식별, 전투 시뮬레이션에 활용됐다고 월스트리트저널이 보도했다. AI…