공부용

딥페이크(Deepfake)란?딥페이크는 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로, 딥러닝을 이용해 가짜 이미지나 영상을 생성하는 기술이다. *딥러닝 : 인간의 두뇌에서 영감을 얻은 방식으로 데이터를 처리하도록 컴퓨터를 가르치는 인공지능 방식이다. 생성적 적대 신경망(GAN)은 딥페이크에 활용되는 딥러닝 알고리즘으로, 생성자(Generator)와 판별자(Discriminator) 2개의 신경망이 서로 경쟁하면서 더 나은 결과를 만들어내는 강화학습(Reinforcement Learning) 방식의 기술이다.GAN은 판별자를 먼저 학습시킨 후 생성자를 학습시키는 과정을 반복한다. 판별자는 진짜 데이터와 가짜 데이터를 분류하도록 학습하고, 생성자는 자신이 생성한 데이터가 판별자를 속일 수 ..

LLM(Large Language Model)은 생성형 AI를 운영하는 AI모델이다. 사전에 학습을 시켜 개발을 한다. 이러한 LLM을 사용한 생성형 AI 기술은 악용될 수도, 선용될 수도 있다.  악용 사례 및 예시LLM을 학습하는 데 사용되는 훈련 데이터를 조작할 수 있다. 즉 해커에 의해 의도적으로 입력된 악의적 데이터로 인해 생성형 AI 서비스가 실제 운영될 때 문제를 야기할 수 있다.기업 내에서 생성형 AI를 제대로 사용하려면 접근 권한을 열어줘야 한다. 이때 해커가 AI의 접근 권한을 남용해 기업 내부로 침투할 수 있다.예시 : 사내 시스템에 연결할 수 있는 권한을 가진 AI를 해킹 -> 이메일 시스템에 접근 -> 회사 관리자 계정으로 메일을 발송 / 사내 이메일 목록을 탈취 프롬프트만으로 답..

OT(Operation Technology) 환경이란?산업의 운영기술 환경으로, 일반적으로 산업제어시스템(ICS: Industrial Control System)이 포함된다. 최근에는 IT와 연결되거나 함께 사용되는 영역까지 범위가 확장되고 있다.  IT와 OTIT(Information Technology) : 정보를 중점으로 하는 기술OT(Operation Technology) : 운영을 중점으로 하는 기술 정보보안의 3요소기밀성(Confidentiality) : 승인되지 않은 사람이 정보를 열람할 수 없게 한다. 무결성(Integrity) : 승인되지 않은 사람이 정보를 수정할 수 없게 한다. 가용성(Availability) : 승인된 사람이 정보가 필요할 때 사용할 수 있게 한다참고 https://..

ERP(전사적 자원 관리)는 재무, 인사 관리, 제조, 공급망, 서비스 조달 등 비즈니스의 여러 부문에서 사용되며, 기업 운영에 필요한 도구 및 프로세스가 포함 소프트웨어 시스템이다. 이러한 ERP 솔루션을 악용해 공격을 수행하는 정황이 확인됐다. 최근의 사례에서는 공격자가 국내 방산업체 및 제조업의 취약한 웹서버를 공격해 악성코드를 유포했다. 해당 악성코드의 유포 과정을 살펴보자.  확인된 악성코드 중 기존 ERP 솔루션의 업데이트 프로그램에 악성 루틴이 삽입된 형태가 존재한다. 이런 방식은 2017년 안다리엘이  HotCroissant 백도어를 설치하기 위해 사용했던 사례와 유사하다. 악성코드를 개발하는 과정에서 Xct라는 문자열이 사용됐으며, 여기에서는 최종적으로 사용된 백도어를 Xctdoor로 분..