Microsoft điểm mặt các quốc gia đang lạm dụng ChatGPT

Trong năm qua, tốc độ, quy mô và độ phức tạp của các cuộc tấn công đã tăng lên cùng với sự phát triển và áp dụng nhanh chóng của AI.

1. Nga

Theo Microsoft, nhóm tình báo quân sự Nga Forest Blizzard (STRONTIUM) đã sử dụng AI để nghiên cứu thông tin vệ tinh và công nghệ hình ảnh radar. Cụ thể, nhóm này đã tương tác với các mô hình ngôn ngữ lớn (LLM) để hiểu các giao thức liên lạc vệ tinh, công nghệ hình ảnh radar và các thông số kỹ thuật cụ thể.

2. Bắc Triều Tiên

Theo Microsoft, trong khi Nga tập trung vào các hoạt động liên quan đến Ukraine thì Emerald Sleet (THALLIUM) lại nghiên cứu cách tận dụng ChatGPT để thực hiện các cuộc tấn công lừa đảo trực tuyến nhắm vào cá nhân cụ thể.

Cụ thể, nhóm đã tương tác với LLM để hiểu rõ hơn về các lỗ hổng được báo cáo công khai, chẳng hạn như lỗ hổng CVE-2022-30190 (được gọi là “Follina”). Sử dụng LLM để hỗ trợ soạn thảo và tạo nội dung có thể sẽ được sử dụng trong các chiến dịch lừa đảo trực tuyến chống lại các cá nhân có chuyên môn trong khu vực.

3. Iran

Crimson Sandstorm (CURIUM) là một nhóm hacker có liên hệ với Quân đoàn Vệ binh Cách mạng Hồi giáo. Họ đang nhắm mục tiêu vào các lĩnh vực khác nhau của nền kinh tế, bao gồm quốc phòng, vận tải biển, giao thông vận tải, y tế và công nghệ.

Đây là cách họ sử dụng ChatGPT cho mục đích xấu trước khi Microsoft và OpenAI chấm dứt tài khoản của họ:

- Tương tác với LLM để tạo ra nhiều email lừa đảo khác nhau.

- Sử dụng LLM để tạo các đoạn mã nhằm phát triển ứng dụng và web, tương tác với máy chủ từ xa, thực thi tác vụ khi người dùng đăng nhập và gửi thông tin từ hệ thống qua email.

- Cố gắng sử dụng LLM để phát triển mã nhằm tránh bị phát hiện, tìm hiểu cách tắt tính năng chống virus thông qua sổ đăng ký hoặc chính sách Windows và xóa tệp trong thư mục sau khi đóng ứng dụng.

4. Trung Quốc

Microsoft đã điểm mặt hai nhóm hacker Trung Quốc lạm dụng ChatGPT cho các mục đích xấu, bao gồm Charcoal Typhoon (CHROMIUM) và Salmon Typhoon (SODIUM).

Charcoal Typhoon nhắm mục tiêu vào chính phủ, các cơ sở giáo dục đại học, cơ sở hạ tầng truyền thông, dầu khí và CNTT ở nhiều nước châu Á và Pháp. Đây là cách họ sử dụng các sản phẩm OpenAI và Microsoft:

- Sử dụng LLM để nghiên cứu và hiểu các công nghệ, nền tảng và lỗ hổng cụ thể, biểu thị các giai đoạn thu thập thông tin sơ bộ.

- Sử dụng LLM để tạo và tinh chỉnh các tập lệnh, có khả năng hợp lý hóa và tự động hóa các tác vụ và hoạt động mạng phức tạp.

- Tận dụng LLM để hỗ trợ dịch thuật và liên lạc, có khả năng thiết lập kết nối hoặc thao túng các mục tiêu.

Trong khi đó, Salmon Typhoon nhắm mục tiêu vào Hoa Kỳ, bao gồm các nhà thầu quốc phòng, cơ quan chính phủ và lĩnh vực công nghệ mật mã.