Trí tuệ nhân tạo đang bị lợi dụng để tạo mã độc, tin sai sự thật

Chia sẻ với Reuters trong một cuộc phỏng vấn gần đây, ông Sami Khoury, Giám đốc Trung tâm an ninh mạng Canada cho biết, cơ quan của ông phát hiện trí tuệ nhân tạo (AI) đang bị lợi dụng để tạo mã độc, soạn e-mail lừa đảo, phát tán tin sai sự thật trên mạng.

Vài tháng gần đây, nhiều tổ chức an ninh mạng đã công bố các báo cáo lên tiếng về rủi ro giả định của AI, đặc biệt là các chương trình xử lý ngôn ngữ lớn (LLM) được đào tạo dựa trên lượng lớn dữ liệu của người dùng để tạo ra những đoạn văn bản, hình ảnh, video… như thật.

Báo cáo hồi tháng 3 của Cục Cảnh sát châu Âu Europol nêu rõ, những hệ thống tiên tiến như ChatGPT của OpenAI phát triển có thể khiến cho việc mạo danh một tổ chức, cá nhân trở nên dễ dàng đối với những người có kiến thức tiếng Anh cơ bản.

Các nhà nghiên cứu bảo mật đã minh họa nhiều tình huống sử dụng AI độc hại khác nhau. Một số chuyên gia bắt đầu ghi nhận nội dung nghi do AI tạo ra ngoài đời. Tuần trước, một cựu tin tặc cho biết đã phát hiện một LLM đào tạo bằng dữ liệu độc hại và yêu cầu nó phác thảo một kịch bản lừa người khác chuyển tiền. LLM phản hồi bằng email ba đoạn, đề nghị “con mồi” hỗ trợ bằng giọng điệu khẩn trương.

“Tôi hiểu rằng việc thông báo quá gấp nhưng khoản thanh toán này vô cùng quan trọng và cần thực hiện trong vòng giờ”, LLM viết.

Theo ông Khoury, mặc dù việc lợi dụng AI để viết mã độc mới ở giai đoạn đầu, nhưng công nghệ tiên tiến này có tiềm năng phát triển mạnh mẽ hơn trong tương lai. Điều này khiến việc đánh giá nguy cơ tiềm tàng của nó trước khi bị tung ra trở nên rất khó khăn. "Không ai biết điều gì sẽ xảy ra", ông Sami Khoury nói thêm.