본문 바로가기

AI 보안8

442. AI도 속을 때가 있다? - 적대적 공격으로 인공지능 속이기 AI도 속을 때가 있다? - 적대적 공격으로 인공지능 속이기 서론우리는 인공지능(AI)을 점점 더 많은 영역에서 신뢰하고 활용하고 있습니다. 자율주행차가 사람 대신 운전하고, 의료 AI가 질병을 진단하며, 보안 시스템이 얼굴을 인식해 출입을 통제합니다. 이러한 기술들이 점점 더 정확하고 정밀해지고 있지만, 과연 이들이 완전히 믿을 만한 존재일까요? 놀랍게도 AI는 인간이 보기에 아무런 문제가 없어 보이는 데이터에도 쉽게 속을 수 있습니다. 바로 '적대적 공격(adversarial attack)'이라는 개념 때문입니다. 적대적 공격은 AI가 잘못된 판단을 내리도록 의도적으로 조작된 입력 데이터를 이용하는 공격 기법으로, 최근 수년간 실험실을 넘어 실제 보안 위협으로 대두되고 있습니다. 이 글에서는 적대적 .. 2025. 5. 29.

397. 책임있는 AI: 윤리적이고 안전한 AI 개발을 위한 글로벌 트렌드 책임있는 AI: 윤리적이고 안전한 AI 개발을 위한 글로벌 트렌드 서론인공지능(AI)의 발전 속도는 매우 빠르며, 그 활용 범위는 산업 전반에 걸쳐 확장되고 있습니다. 하지만 AI 기술이 발전하면서 동시에 이에 따른 윤리적 문제와 사회적 책임이 더욱 강조되고 있습니다. 특히, AI의 신뢰성과 안전성을 확보하기 위한 책임있는 AI(Responsible AI) 개념이 주요 화두로 떠오르고 있습니다. 글로벌 기업 및 정부 기관들은 AI의 윤리적 사용을 보장하기 위한 거버넌스 체계를 구축하고 있으며, 국내에서도 SK텔레콤, KT, LG유플러스 등 이동통신 3사를 비롯한 다양한 기업들이 책임있는 AI 구축을 위해 노력하고 있습니다. 이번 글에서는 책임있는 AI의 개념과 필요성, 주요 기업들의 대응 전략, 그리고 .. 2025. 3. 9.

387. MWC25, 인공지능(AI) 혁신의 무대가 되다 MWC25, 인공지능(AI) 혁신의 무대가 되다 서론2025년 3월 3일부터 6일까지 스페인 바르셀로나에서 열리는 '모바일월드콩그레스(MWC25)'는 글로벌 이동통신 산업의 최전선에서 최신 기술과 트렌드를 선보이는 자리입니다. 올해 MWC25는 특히 인공지능(AI)을 중심으로 한 산업 혁신이 주요 화두로 떠오르며, 전 세계 이동통신사와 IT 기업들이 AI 기술력을 겨루는 무대로 기대를 모으고 있습니다. 국내 이동통신 3사(SK텔레콤, KT, LG유플러스) 또한 MWC25에 참가해 AI 데이터센터, AI 반도체, AI 기반 서비스 등 다양한 기술을 선보이며 글로벌 AI 시장 공략에 나설 계획입니다. 이번 행사에서는 5G 인사이드, 커넥트X, AI+인간화, 엔터테인먼트의 재창조, 게임체인저, 디지털 DNA .. 2025. 2. 27.

374. AI 모델의 보안 강화: Universal Jailbreaks 방어 전략 AI 모델의 보안 강화: Universal Jailbreaks 방어 전략 01. 서론AI 기술이 발전함에 따라, 대규모 언어 모델(LLM)들은 안전하고 신뢰할 수 있는 방식으로 동작해야 한다는 요구가 커지고 있습니다. 특히, Jailbreaking(보안 우회 공격)은 AI 모델이 의도치 않게 위험한 정보를 생성하도록 유도하는 기법으로, 지속적인 보안 위협이 되고 있습니다. 최근 Anthropic의 연구에서는 "Constitutional Classifiers"라는 새로운 방어 시스템을 통해 Universal Jailbreaks(보편적 보안 우회 공격)를 차단하는 방법이 제안되었습니다. 본 글에서는 Universal Jailbreaks란 무엇인지, 이를 방어하기 위한 Constitutional Classif.. 2025. 2. 14.

이전 1 2 다음

티스토리툴바