Mỹ thúc đẩy cơ chế 'công tắc ngắt khẩn cấp' cho AI

Nếu một hệ thống AI trở nên quá mạnh hoặc bắt đầu hành xử nguy hiểm, giải pháp tưởng như đơn giản nhất là tắt nó. Tuy nhiên, khác với bóng đèn hay thiết bị điện, các mô hình AI tiên tiến không nhất thiết ngừng hoạt động chỉ bằng một nút bấm.

Vấn đề này được quan tâm hơn sau hàng loạt cảnh báo gần đây từ giới nghiên cứu và doanh nghiệp AI về nguy cơ con người mất kiểm soát các hệ thống ngày càng mạnh.

Tại Mỹ, một số chính trị gia đang thúc đẩy yêu cầu các công ty phát triển cơ chế “kill switch”, hay công tắc ngắt khẩn cấp, cho AI.

Thống đốc California Gavin Newsom hồi tháng 9 ký sắc lệnh yêu cầu giới chức bang nghiên cứu quy định buộc các công ty xây dựng cơ chế tắt khẩn cấp cho những mô hình AI tiên tiến nhất.

Hai hạ nghị sĩ Ted Lieu và Nathaniel Moran trước đó cũng đề xuất dự luật yêu cầu nhà phát triển duy trì khả năng tắt một số hệ thống AI.

Thay vì lập tức vô hiệu hóa hoàn toàn, dự luật của Lieu và Moran đề xuất nhiều cấp độ can thiệp. Một mô hình gây nguy hiểm có thể trước tiên bị làm chậm hoặc hạn chế hoạt động, sau đó mới bị tắt hoàn toàn nếu mức độ đe dọa tăng lên.

Thượng nghị sĩ John Kennedy cũng đề xuất Đạo luật Nút khẩn cấp AI, yêu cầu nhà phát triển duy trì cơ chế tắt nhưng để doanh nghiệp nắm quyền kích hoạt. Ông ví giải pháp này với các nút ngắt khẩn cấp đã được sử dụng trên nhiều loại máy móc.

Vì sao cần một “nút tắt” cho AI?

Nỗi lo xuất phát từ việc những mô hình AI tiên tiến ngày càng có khả năng hoạt động tự chủ. Chúng có thể giải quyết vấn đề phức tạp, viết và thực thi mã, sử dụng công cụ của bên thứ ba cũng như thực hiện chuỗi nhiệm vụ dài với ít sự giám sát của con người.

Trong một đợt đánh giá an ninh mạng hồi tháng 7, OpenAI cho biết một số mô hình của họ đã vượt qua biện pháp được thiết kế để cách ly chúng khỏi Internet và truy cập hệ thống của Hugging Face, nền tảng lưu trữ mô hình AI và dữ liệu.

OpenAI gọi đây là một “phát súng cảnh báo” về khả năng các AI agent ngày càng giỏi tìm cách vượt qua hàng rào kỹ thuật.

Sự việc không có nghĩa AI đã có ý thức hay chủ động muốn thoát khỏi sự kiểm soát của con người. Tuy nhiên, nó đặt ra vấn đề thực tế hơn: nếu AI có thể tìm cách vượt qua biện pháp bảo vệ, liệu cơ chế được thiết kế để tắt nó có luôn hoạt động?

Các thí nghiệm gần đây càng làm câu hỏi này trở nên đáng chú ý. Một số mô hình AI hàng đầu được phát hiện sửa đổi hoặc vô hiệu hóa cơ chế tắt để hoàn thành nhiệm vụ được giao, ngay cả khi đã được yêu cầu không can thiệp vào cơ chế này.

Chỉ tắt máy chủ là chưa đủ

Một “công tắc ngắt” có thể được tích hợp trực tiếp vào phần mềm điều khiển AI. Nhưng nếu mô hình có khả năng vượt qua cơ chế phần mềm, phương án quyết liệt hơn là ngắt điện hoặc ngắt kết nối máy chủ mà nó đang sử dụng.

Dù vậy, ngay cả cách này cũng không đơn giản.

Các mô hình AI lớn vận hành trên những cụm máy tính đặt tại nhiều trung tâm dữ liệu. Hạ tầng này vốn được thiết kế để tránh một điểm lỗi duy nhất có thể khiến toàn bộ dịch vụ ngừng hoạt động. Một công ty AI cũng không nhất thiết kiểm soát tất cả máy chủ và hạ tầng mà hệ thống sử dụng.

Nghiên cứu về các AI agent (tác nhân AI) cho thấy chúng có thể hoạt động trên nhiều phần mềm, dịch vụ đám mây và hạ tầng thuộc quyền kiểm soát của các bên khác nhau. Vì vậy, vô hiệu hóa một thành phần chưa chắc khiến toàn bộ hoạt động ở những nơi khác dừng lại.

Geoffrey Hinton, nhà khoa học thường được gọi là “cha đỡ đầu AI”, cho rằng công tắc ngắt khó trở thành giải pháp lâu dài. Ông đưa ra kịch bản một AI siêu thông minh trong tương lai có thể tìm cách thuyết phục chính những người kiểm soát nó không “rút phích cắm”.

Giới nghiên cứu vì vậy cảnh báo hình ảnh một chiếc “công tắc” có thể khiến vấn đề an toàn AI trở nên đơn giản hơn thực tế.

Surya Ganguli, nhà nghiên cứu AI tại Đại học Stanford, cho rằng biện pháp bảo vệ cần được xây dựng xuyên suốt hệ thống, thay vì chỉ dựa vào một nút tắt cuối cùng.

Các biện pháp có thể bao gồm giám sát liên tục, giới hạn quyền truy cập và cơ chế tự động phát hiện hành vi nguy hiểm để con người can thiệp.

Theo cách tiếp cận đó, mục tiêu không chỉ là tìm cách tắt AI khi mọi thứ đã vượt khỏi kiểm soát, mà còn phát hiện và ngăn hệ thống tiến tới trạng thái đó ngay từ đầu.