[기획자 註]
AI는 굉장히 빠른 속도로 발전을 거듭하고 있으며 이미 다양한 분야에서 우리의 삶에 많은 영향을 주고 있다. 하지만 AI 윤리에 관한 논의는 여러 행위자간 인식 차이로 인한 합의 부재, 그리고 규제가 기술 혁신을 저해할 수 있다는 우려 때문에 상대적으로 미흡하다. 이에 본고는 AI의 안전한 사용을 위해 윤리적 기준이 필요한 이유를 설명하고 이를 마련하기 위한 정책 방향을 제언한다 [기획: 박동준 연구실장(djpark@jpi.or.kr)].
I. 서론
인간처럼 생각하는 기계를 표방하는 인공지능(Artificial Intelligence, AI) 기술이 일상에 광범위하게 녹아들고 있다. 44.5%의 국민이 챗GPT나 제미나이와 같은 대규모 언어모델(Large Language Model, LLM) 기반 생성형 AI를 이미 경험하고 있다.1) 그리고 이제 더 많은 사람들이 네이버나 유튜브가 아닌 AI 서비스로 검색하기 시작했다.2) 2025년 한 해에만 월간 AI 기반 트래픽이 187% 증가하였으며 이는 전년 대비 사람의 트래픽 증가량과 비교하면 8배 높다.3) 인터넷 공간에서 사람보다 AI의 활동이 많아지고 있다는 뜻이다. 일상뿐만 아니라 기술 시험의 최전선인 전장에서는 AI가 정보를 수집해 계획을 수립하고 공격 목표를 선정하고 있다.4)
기술 수준도 하루가 다르게 변화한다. LLM 중심의 패러다임은 2026년 들어 이미 피지컬AI(Physical AI)와 에이전틱 AI(Agentic AI)로 바뀌었다.5) 2026년 4월 엔트로픽(Anthropic)은 AI보안 모델인 미토스(Mythos)가 아직 너무 위험하다는 이유로 일반 공개를 보류했다. 이 때문에 국내에서는 미토스 사태로 보안 기관은 물론 모든 공공기관과 기업들이 비상 대응에 착수했다. 그런데 불과 1달이 채 지나지 않아 영국의 AI안전연구소(AI Security Institute, AISI)는 사이버보안 역량 평가에서 오픈AI의 최신 모델 GPT-5.5가 미토스를 넘어서는 성능을 보였다고 밝혔다.6)
2016년 알파고 쇼크로 사람들이 가졌던 막연한 기대와 두려움과 달리 지금의 인공지능은 다분히 정치와 안보, 산업 및 경제와 같은 현실 문제로 다가오고 있다. 기업들은 앞장서 인공지능 윤리 원칙을 만들어 발표하고 있으며, 유엔 총회는 2024년 3월 지속 가능한 발전을 위한 안전하고 신뢰할 수 있는 인공지능 기회 확보에 관한 결의안을 만장일치로 채택했다.7)세계 각국은 유럽연합과 우리나라를 필두로 인공지능을 포괄적으로 규율하는 일반법을 제정하기 시작했다.
이러한 상황 속에서 본고는 글로벌 인공지능 규범 형성 노력의 중요성을 강조하고 그 효과가 가시적인 결과로 나타나야 한다는 점을 주장하고자 한다. 10년 전 본격적으로 촉발된 인공지능 윤리에 관한 논의는 오늘날 실제 법규제로 구현되어 시장 진입의 요건으로 작동하고 있다. 어떤 미래를 그려낼 것인지 논의하고 구체적인 효과를 가져오는 제도와 정책을 설계 할 때다.
이 글에 포함된 의견은 저자 개인의 견해로 제주평화연구원의 공식입장과는 무관합니다.
기획자: 박동준 제주평화연구원 연구실장, 편집 : 제주평화연구원 이혜진 연구원
윤상필 (고려대학교 정보보호대학원 연구교수)
윤상필 박사는 법학과 정보보호학을 전공하고 고려대학교 정보보호대학원 연구교수로 재직 중이다. 주요 연구 분야는 사이버안보, 사이버국방, 사이버수사이며 그밖에 인공지능 안전과 윤리, 개인정보보호, 디지털 전환에 관한 연구들도 수행하고 있다. 현재 경찰청 사이버 성폭력수사 자문위원, 캐나다 OBVIA 협력위원(membre collaborateur), 한국사이버안보학회 편집이사, 한국인터넷윤리학회 총무이사, 개인정보보호법학회 홍보이사, 한국공법학회 기획 간사 등으로 활동하고 있다. 저서로는 『사이버보안취약점의 법적 규제』 (박영사, 2022), 역서로는 『비트전: 사이버전의 혁신』 (박영사, 2024)가 있다.
홈