인공지능 기술과 사이버보안의 상관 관계

인공 지능을 만든 배경에는 인간이 스스로를 이해하고자 하는 본연의 욕구와 연관되어 있습니다. 현대에 들어서 본격적으로 인공지능이라는 개념을 사용하게 된 것은 1955년에 존 매카시와 마빈 민스키 등의 학자가 인공 지능이라는 용어를 만들면서부터입니다. 1956년 다트머스 회의에서 인공지능 연구 분야가 본격적으로 시작되었습니다.

인공지능의 역사는 여러 번의 부흥과 쇠퇴를 거쳐왔습니다. 1960년대에는 신경망의 기술적 한계로 인해 1차 인공지능의 쇠퇴기가 왔으나, 1980년대에는 전문가 시스템과 다층 신경망의 발전으로 다시 세간의 주목을 받았습니다. 하지만 전문가 시스템의 한계와 컴퓨팅 성능의 부족으로 2차 쇠퇴기를 겪었습니다.

그러나 2000년대 중반부터 딥러닝이라는 개념이 제안되고, 컴퓨팅 성능과 데이터 양이 증가하면서 기계학습(머신러닝)과 심층학습(딥러닝)이 발전하고 있습니다. 최근 챗GPT 신드롬과 함께 인공지능에 대한 관심이 더욱 증폭되었습니다.

머신러닝과 인공지능(AI) 둘 다 흔하게 듣는 용어인데요. 둘의 상관관계를 정확히 알지 못하면 혼용하기 쉽습니다. 기계 학습으로 불리기도 하는 머신러닝(Machine Learning)과 그 구성요소인 딥러닝(Deep Learning), 신경망(Neural Networks)은 모두 인공지능의 하위 범주에 속합니다.

AI는 의사결정과 예측 활동을 수행하기 위해 데이터를 처리하는데, 이 때 AI는 머신러닝 알고리즘으로 데이터를 처리합니다. 덕분에 추가 프로그래밍 없이도 데이터를 자율적으로 학습하면서 지능화할 수 있습니다.

다음은 AI 기술과 관련된 몇 가지 필수 개념입니다.

머신 러닝은 컴퓨터가 데이터에서 패턴을 식별하고 이러한 패턴을 사용하여 작업을 수행하고 문제를 해결하는 능력입니다. 이러한 시스템은 알고리즘을 통해 학습하고 프로그래밍되지 않은 예측이나 결정을 내릴 수 있는 능력을 개발합니다. 머신러닝은 대량의 데이터를 빠르게 처리할 수 있기 때문에 보다 정확하게 예측하고 행동할 수 있습니다.

전문가 시스템은 다양한 문제를 해결하기 위해 인간 지능의 의사 결정 과정을 모방한 프로그램입니다. 전문가 시스템은 지식의 집합을 통해 추론하여 복잡한 문제를 해결하도록 설계되었습니다. 전문가 시스템에는 일반적으로 추론 엔진과 지식 기반이라는 두 가지 하위 시스템이 있습니다. 지식 기반은 사실과 규칙을 나타냅니다. 추론 엔진은 규칙을 사용하여 새로운 사실을 추론합니다.

인공 신경망은 컴퓨터가 관찰 데이터로부터 학습할 수 있는 패러다임을 사용합니다. 이는 인간 두뇌의 생물학적 과정을 모방합니다. 신경망은 신호를 보내는 인공 뉴런으로 구성됩니다. 뉴런에는 학습이 진행됨에 따라 조정되는 가중치도 있습니다. 가중치는 신호를 증가시키거나 감소시킬 수 있습니다.

딥 러닝은 인공 신경망과 표현 학습을 기반으로 하는 머신 러닝의 하위 범주에 속하는 개념입니다. 여러 계층을 사용하여 입력 데이터에서 점진적으로 상위 계층의 특징을 추출합니다. 따라서 딥 러닝은 데이터의 특정 차이점과 측면을 식별할 수 있습니다(예: 매우 정확한 이미지 인식 제공).

‘인공 신경망’과 ‘심층 학습’이라는 용어는 같은 뜻이 아님에도 불구하고 같은 의미로 잘못 사용되기도 합니다. ‘심층’이라는 단어는 신경망의 숨겨진 레이어 수 또는 그 깊이를 나타냅니다. 계층이 3개 이상인 신경망을 심층 신경망 또는 심층 학습 네트워크라고 합니다. 이러한 신경망이 딥 러닝에 사용됩니다.

신경망은 의학에서 금융에 이르기까지 다양한 분야와 산업에서 유용하게 사용됩니다. 다음은 신경망의 주요 응용 분야 목록입니다:

컴퓨터 비전은 컴퓨터가 시각적 데이터를 해석하고 이해하는 능력입니다. 컴퓨터 비전은 이미지와 비디오를 처리하고 분석하여 정보를 추출합니다. 신경망의 도움으로 컴퓨터는 인간과 유사하게 이미지를 구별하고 인식할 수 있습니다. 다음 영역에서 컴퓨터 비전을 적용할 수 있습니다:

• 콘텐츠 검토 – 컴퓨터는 부적절한 시각적 콘텐츠를 인식하고 제거합니다.
• 얼굴 인식 – 치안 및 보안 분야에서 사용됩니다.
• 자율 주행 차량 – 자율 주행 차량은 컴퓨터 비전을 통해 교통 표지판, 차선 및 기타 도로 사용자를 인식합니다.
• 로봇 공학 – 로봇은 시각적 피드백을 기반으로 사물과 사물 간의 관계를 인식하고, 주변 환경을 이해하고, 지도를 만들고, 동작을 안내하는 방법을 학습합니다.

신경망은 사람의 음성을 분석하고 단어에 해당하는 패턴을 식별합니다. 신경망은 다양한 음성 패턴, 높낮이, 어조 또는 억양에 적응합니다. 이 기술은 다음과 같은 용도로 사용됩니다:

• 콜센터의 통화 분류
• 트랜스크립션 – 대화를 문서로 변환
• 동영상 및 녹화물에 자막 삽입
• 자동차 및 가정의 가상 비서 및 음성 인식 시스템에 주어진 음성 명령 처리

신경망을 통해 컴퓨터는 인간의 언어를 이해하고 해석하며 생성할 수 있습니다. NLP는 다음 용도로 사용됩니다:

• 감정 분석
• 언어 번역
• 텍스트 요약
• 챗봇
• 음성 언어 인식

신경망을 사용하여 사용자 활동을 추적하여 맞춤형 추천을 제공할 수 있습니다. 또한 사용자 행동을 분석한 다음 사용자가 관심을 가질 만한 특정 제품 및 서비스를 찾아서 제공할 수도 있습니다.

인공지능은 약인공지능과 강인공지능으로 구분할 수 있습니다. 약인공지능은 특정한 문제를 해결하는 도구로써 활용되는 인공지능이고, 강인공지능은 인간처럼 실제로 사고하여 문제를 해결할 수 있는 일반 지능을 가진 인공지능입니다. 이 중 딥 러닝은 강인공지능에 속합니다.

딥 러닝은 인공지능의 핵심이며 다양한 산업 분야에서 널리 사용되고 있지만, 그 적용은 윤리적 우려를 불러일으킵니다. 규제와 국제법의 부재로 인해 인공지능은 여전히 책임감 없이 악의적인 목적으로 사용될 수 있습니다. 예를 들어, 전 세계 도시에서는 생체 인식 데이터에 의존하는 대규모 감시 및 얼굴 인식에 머신러닝을 사용하고 있습니다. 또한 제조 및 개인화 분야에서 AI를 사용하면 이러한 기술을 도입할 여력이 없는 소규모 기업에 비해 우위를 점할 수 있습니다.

하지만 가장 우려되는 것은 개인정보 보호 문제입니다. 인터넷 서비스 제공업체, 정부, 기업은 사용자를 추적하고 데이터를 수집하지만 데이터를 저장하거나 사용하는 방법을 항상 공개하지는 않습니다. 이 때문에 온라인 보안과 개인정보 보호가 더욱 중요해졌습니다.

오늘날 AI는 크게 세 가지 유형으로 구분할 수 있습니다.

보조 지능은 가장 기본적인 수준의 AI입니다. 빅 데이터, 클라우드, 데이터 과학의 힘을 이용해 프로세스를 자동화하고 의사 결정을 돕는 것이 주요 목표입니다.

보조 지능은 사람의 지속적인 개입이 필요하기 때문에 자급자족할 수 없습니다. 이미 실행 중인 프로세스를 개선할 뿐입니다. 사람들이 이미 하고 있는 일의 생산성과 효율성을 높일 수 있도록 도와줍니다.

예를 들어, 내비게이션 시스템은 보조 지능을 사용하여 경로 찾기 및 거리 계산 프로세스의 속도를 높일 수 있습니다. AI 없이도 내비게이션을 사용할 수 있지만 효율성 측면에서 시간이 훨씬 오래 걸리고 더 많은 노력이 필요합니다.

가까운 미래에는 증강 지능을 통해 사람들은 다른 방법으로는 할 수 없었던 일을 할 수 있습니다. 마치 기계와 인간의 협업과도 같습니다. 증강 지능 플랫폼은 수많은 복잡한 데이터를 처리하여 전문가에게 분석된 문제에 대한 다각도의 정보를 제공할 수 있습니다. 머신러닝과 예측 분석을 사용하여 인간의 지능을 대체하는 것이 아니라 지능을 향상시킵니다.

예를 들어, 증강 지능은 의료 분야에서 인적 오류의 가능성을 줄이거나 금융 서비스에서 고객의 요구와 위험을 계산하는 데 사용될 수 있습니다.

자율 지능은 사람의 입력이나 개입 없이 작동할 수 있습니다. 가장 진보된 유형의 인공 지능입니다. 영화의 소재로도 많이 사용되어 온 이러한 유형의 인공지능은 더 이상 공상 과학 소설의 판타지가 아닌 현실이 되었습니다.

하지만 AI 기반 시스템을 완전히 신뢰하고 IT 인프라에 자율 지능을 구현하는 것은 아직 사회적 합의가 이루어지지 않았습니다. 따라서 자율 지능은 일반적으로 전문가가 의사 결정을 내릴 때 조언자로 활용될 뿐 최종적 권위를 갖지 못합니다.

사이버 보안 전문가는 여러 가지 방법으로 AI를 적용할 수 있습니다.

• 

  인공지능은 기계 학습을 통해 특정 디바이스 소유자의 행동 패턴을 식별할 수 있습니다. 비정상적인 것을 발견하면 다른 사람이 기계를 사용하고 있다고 의심하고 이를 방지할 수 있습니다.
• 

  기계 학습 기능과 대규모 데이터베이스는 위협과 취약점을 보다 효율적으로 탐지하는 데도 도움이 됩니다. 인공지능은 웹 트래픽의 패턴을 모니터링하고 의심스러운 것을 발견하면 사용자나 관리자에게 경고할 수 있습니다. 또한 기계 학습은 보다 정확한 패턴 식별을 위해 광범위한 데이터베이스를 축적하는 데 도움이 될 수 있습니다.
• 

  인공지능은 모니터링의 양과 질 측면에서 인간의 감시 능력을 능가합니다. 사람의 실수 요인을 제거하고 24시간 연중무휴로 작동하며 단시간에 방대한 양의 데이터를 처리할 수 있습니다. 전문가의 손에서 많은 업무를 덜어주고 다른 업무에 집중할 수 있게 해줍니다.
• 

  인공지능은 비밀번호를 사용할 필요성과 비밀번호 탈취의 위험을 없앨 수 있습니다. 생체 인식 시스템은 AI를 사용하여 얼굴 인식, 지문 또는 기타 유사한 기술을 사용하여 정당한 소유자를 식별합니다. 예를 들어, 얼굴 패턴의 아주 작은 세부 사항까지 기억할 수 있습니다. 따라서 디바이스는 수염이나 모자로도 사용자를 식별할 수 있습니다.
• 

  인공지능은 다양한 액세스 수준을 가진 디바이스, 애플리케이션 및 사용자에 대한 정확하고 상세한 기록을 유지하는 데 도움이 될 수 있습니다. 또한 원격 디바이스의 엔드포인트를 보호하는 데 유용합니다.
• 

  인공지능 활동은 서명을 기반으로 하지 않으므로 새로운 멀웨어 유형을 발견하고 멀웨어 공격을 방지하는 데 더 유용합니다. AI는 멀웨어 또는 기타 의심스러운 프로세스의 행동 패턴을 인식하는 방법을 학습하므로 빠르게 적응하여 더욱 탄탄한 방어를 구축할 수 있습니다.

하지만 인공지능을 악용한 사이버 위협 또한 증가하고 있기 때문에 각별한 주의를 요합니다.

• 

  해커는 악의적인 목적으로 인공지능을 사용하여 더욱 정교하고 대규모적인 공격을 시작할 수도 있습니다. 또한 AI는 취약점을 더 빠르고 효율적으로 식별하고 익스플로잇하는 데 도움이 될 수 있습니다.
• 

  인공지능이 딥페이크 영상을 만드는 데 사용될 수 있습니다. 딥페이크 기술로 인한 피해를 미연에 방지하기 위해서는 온라인에 불필요한 이미지와 동영상을 공유하지 않는 것이 좋습니다. 또한 인공지능 기반 생체 인식도 위협이 될 수 있습니다. AI 고급 스캔 기술은 사용자의 외모에 대한 매우 상세한 데이터를 제3자에게 제공할 수 있습니다. 자신에 대한 이미지와 동영상이 많을수록 딥페이크 동영상의 진위 여부를 파악하기 힘들어지기 때문에 소셜 미디어 프로필은 비공개로 유지하고 얼굴이 나온 사진은 되도록이면 게시하지 말아야 합니다.
• 

  인공지능은 그 어느 때보다 더 많은 데이터 수집과 처리를 가능하게 하여 제3자가 더 많은 데이터를 보유할 수 있게 되었습니다. 이는 개인 정보 보호 및 보안 문제를 해결하는 것보다 더 많은 문제를 야기할 수 있습니다. 또한 감시, 추적 및 기타 개인 정보 침해에 사용될 수 있습니다. 권위주의 국가와 정권은 이러한 기술을 사용하여 적을 감시할 수 있습니다. 이러한 개인 정보를 스스로 보호하는 것이 가장 중요합니다. 온라인 활동 중에 가상사설망을 사용하면 실제 IP 주소를 숨기고 트래픽을 암호화할 수 있습니다.
• 

  바이러스 개발자도 인공지능을 사용할 수 있습니다. 이러한 AI 기반 바이러스는 바이러스 백신 소프트웨어를 탐지하고, 코드를 공격하고, 우회할 수 있기 때문에 다른 바이러스보다 더 큰 피해를 입힐 수 있습니다. 바이러스 기술이 나날이 발전함에 따라, 바이러스에 감염된 후 치료하는 백신보다는 온라인 활동 중 실시간으로 악성코드를 차단할 수 있는 바이러스 및 위협 방지 기능을 사용하는 것이 좋습니다.
• 

  인공지능은 소셜 엔지니어링, 즉 사회 공학적 공격에도 사용될 수 있습니다. 사기꾼은 사람의 언어를 모방하거나 가짜 이미지나 동영상을 제작하여 사용자를 속여 기밀 데이터를 전송하도록 유도하는 데 AI를 사용할 수 있습니다. 이러한 기법은 사이버폭력에도 사용될 수 있습니다.

인공지능과 함께하는 삶은 이미 선택의 문제가 아닌 현실의 문제가 되었습니다. 우리가 당면한 과제는 인공지능을 어떻게 잘 활용할 지 고민하는 것입니다. 지금의 과도기야말로 인공지능에 관련된 적정윤리와 표준을 잘 세우는 것이 필요한 때입니다.

새로운 기술의 도입은 신나는 일이지만 규제적 혼란을 틈타 개인 정보가 노출되고 악용될 수 있습니다. 이러한 시기야말로 사용자 개개인이 더욱 주의하며 온라인 활동을 스스로 보호하는 것이 중요합니다. VPN을 사용하여 모든 온라인 연결을 안전하게 지킬 것을 권합니다.

모두 함께 프라이버시와 사이버 보안 관련 문제 뿐만이 아니라, 인공지능에 의한 인력 대체로 발생할 실업 문제, 인공지능을 어디까지 존중할 것인지에 관한 윤리 문제, 인공지능 활용한 창작물에 관한 저작권 문제, 그리고 나아가 인간이란 무엇인가에 관한 근본적인 질문까지 깊이 고민해 볼 수 있기를 희망합니다.