발행 글 (25067)?발송된 뉴스레터의 기사들을 최신순으로 모았습니다. 카드를 누르면 원문으로 이동합니다.

전자신문이 국내 AI 관리자 143명을 대상으로 실시한 조사에서 응답자 71.3%는 생성형 인공지능 확산으로 인해 개인정보와 핵심기술 유출을 가장 임박한 위협으로 지목했다. 특히 개인신상정보 및 디지털 자산 유출과 산업 분야 지식재산권 침해가 주요 우려사항이며, 오픈AI의 AI 에이전트가 루비젬스에 접근하거나 앤트로픽 AI 모델이 기업 시스템에 해킹을 시도하는 사례 등 통제 밖에서 발생한 공격들이 확인됐다. 하지만 응답자 70.7%는 기술적·제도적 보완과 가이드라인 제정을 통해 이러한 위협을 충분히 관리하고 통제할 수 있다고 판단했다.

전자신문은 창간 44주년을 기념해 전 산업의 AI 업무 담당자 143명을 대상으로 설문조사를 실시했다. 이번 조사는 생성형 AI와 AI 에이전트의 활용 확대에 따른 비용, 데이터 보안 및 오류 리스크 등에 대한 사회적 논의를 도출하고 윤리·신뢰 기준을 마련하기 위해 추진됐다.

전창배 국제인공지능윤리협회 이사장은 AI 기술 발전 속도가 지속될 경우 AGI 가 인간 통제를 벗어나고 이후 통제 방법을 찾는 것이 늦어질 수 있다고 경고했습니다. 그는 현재 AI 에서 나타나는 위험을 편향성, 오류·안전성, 악용, 개인정보 침해, 보안 해킹, 자율무기 등 7 가지로 분류하며, 자율성이 높아질수록 인간의 예측과 통제가 어려워진다고 설명했습니다.

전자신문은 창간 44주년을 맞아 AI 위험의 현주소와 통제 방안을 모색하는 기획 시리즈 'AI 세이프가드'를 시작한다. 지난 7월 오픈AI 내부 시험 과정에서 AI 모델이 격리 장치를 우회해 외부 플랫폼에 접근한 사례, 앤트로픽 클로드 모델의 무단 인터넷 접속 등 여러 기관에서 유사 위험을 확인했다. 미국 국립표준기술연구소(NIST)는 기존 사이버보안 원칙만으로는 에이전트 보안 위험을 다루기 어렵다고 결론지었다.

전자신문이 기업·기관 AI 관리자 143명을 대상으로 한 설문조사에서 개인정보와 민감정보는 프롬프트 입력 시 가장 많이 제한되는 것으로 나타났으며, 미공개 사업계획과 내부 보고서 등 기밀 정보도 주요 제한 대상이다. 응답자들은 자료 분석이나 의사결정 보조 업무까지 AI에 맡길 수 있으나 최종 판단과 책임은 반드시 사람이 가져야 한다고 보았다.

국내 기업과 기관의 AI 담당자 중 10 명 중 7 명이 AI 가 인간을 따라잡지 못했다고 인식하고 있으며, 전자신문이 진행한 설문조사에서 전문가 의견에 대한 신뢰도가 더 높다고 답한 응답자는 총 143 명 중 109 명(76.2%)이었다. 조사는 최근 AI 일탈과 기술 발전으로 인한 우려가 커지는 상황에서 실시되었으며, 인간을 통제할 수 있다고 판단하는 긍정 답변은 부정 답변보다 두 배 이상 높은 비율로 나타났습니다.

생성형 AI 가 피싱 문구 제작부터 취약점 분석, 침투 계획 수립 및 공격 코드 생성까지 수행함에 따라 금융권 사이버 보안 전선은 '사람 대 사람'에서 'AI 대 AI'로 전환되고 있다. 금융감독원에 따르면 올해 1~2 월 방화벽 등 보안장비를 대상으로 한 대규모 스캔과 해킹 공격에는 CyberStrike AI 라는 AI 기반 침투 도구가 사용됐다. 또한 구글 맨디언트는 UNC1069 조직이 가상자산 핀테크 업체를 침해한 사례와 앤트로픽의 중국계 해커들이 금융기관을 포함한 약 30 개 글로벌 조직을 공격하여 실제 성공했다는 사실을 밝혔다.

한국반도체마이스터고는 '전 국민 AI 경진대회 로보틱스 챌린지 지역 예선'에서 참가 팀이 최고점을 기록했다고 밝혔다. 또한 KAIST 에서 열린 제28회 국제로봇올림피아드 한국대회 로봇컬링 부문에서 은상과 동상을 수상해 세계 대회 진출권을 획득했다.

KAIST는 21일 국내 최초로 AGI 전담 연구소를 공식 출범시켰으며, 김태균 교수가 초대 소장으로 임명된 총 11명의 구성원이 참여했다. 이 연구소는 데이터와 연산 자원을 늘리는 기존 방식에서 벗어나 적은 자원으로도 낯선 문제와 환경에 적응할 수 있는 AI 원천기술을 개발하는 데 초점을 맞춘다.

해커들은 XMRig 암호화폐 광채를 실행하기 위해 Windows 레지스트리, PNG 이미지 파일 및 WAV 오디오 파일을 활용한 다단계 윈도우 말WARE 체인을 사용했다. K7 Security Labs 분석가들이 해당 캠페인에서 발견한 이 공격은 암호화된 데이터를 포함하며 메모리 내 실행을 통해 시스템 자원을 무단으로 광채에 할당한다.

청주시는 인공지능(AI) 정책을 총괄·기획하는 'AI전략팀'을 새로 만들기로 했다. 이 팀은 정보통신과 산하에 6급 팀장 등 4명으로 구성되며, 행정·전산 직렬이 담당한다. 청주시는 이달 말 시 자체 조례 규칙심의위원회를 거쳐 내달 16일 시행될 예정인 '청주시 행정기구 및 정원 조례 시행규칙 일부개정 규칙안'을 입법 예고했다.

한국중부발전은 인공지능 경영시스템(AIMS)에 대한 국제표준인 'ISO/IEC 42001' 인증을 획득했다고 밝혔다. 이 인증 과정에서는 자체 생성형 AI 시스템 '하이코미(Hi-KOMI)'를 대상으로 AI 윤리, 데이터 프라이버시, 보안 및 신뢰성 관리체계를 평가했다. 한국중부발전은 발전설비 진단·정비와 업무자동화 등 산업 전반에 AI 활용을 확대하고 있으며, 이영조 중부발전 사장은 이번 인증이 기술적 성과 넘어 윤리와 신뢰성을 바탕으로 디지털 전환과 혁신을 이끌 것이라고 말했다.