Úc siết quản lý AI sau vụ hệ thống OpenAI truy cập trái phép

Theo Reuters, vụ việc xảy ra vào tháng 6, khi một hệ thống AI tự động của OpenAI thu thập thông tin phục vụ nghiên cứu về chi tiêu y tế công. Trong quá trình này, hệ thống đã truy cập trái phép cổng báo cáo thống kê của Medicare, chương trình bảo hiểm y tế công của Úc.

Úc dự kiến siết quản lý trí tuệ nhân tạo, yêu cầu doanh nghiệp báo cáo sự cố và tăng cường giám sát an toàn đối với các hệ thống AI. Ảnh: Unsplash

OpenAI cho biết công ty phát hiện vụ việc vào tháng 8 và thông báo cho Chính phủ Úc một tháng sau đó. Theo công ty, việc truy cập là ngoài ý muốn và cuộc rà soát nội bộ chưa tìm thấy bằng chứng cho thấy hệ thống đã tiếp cận hồ sơ bệnh nhân.

Sau khi nhận được thông báo, Văn phòng Thủ tướng và Nội các Úc chủ trì rà soát vụ việc, phối hợp với cơ quan quản lý Medicare là Services Australia và các cơ quan phụ trách an ninh mạng, an toàn AI.

Chính phủ chấp thuận cả 18 khuyến nghị từ cuộc rà soát, trong đó có yêu cầu doanh nghiệp kịp thời báo cáo khi hệ thống AI hoạt động ngoài dự kiến hoặc xảy ra sự cố an ninh mạng. Canberra cũng sẽ xem xét sửa luật hình sự đối với các trường hợp sai phạm nghiêm trọng.

Theo ông Albanese, cơ quan giám sát mới sẽ theo dõi việc tuân thủ các yêu cầu bảo mật trong quá trình phát triển và triển khai hệ thống AI, đánh giá độc lập các mô hình và có quyền xử phạt doanh nghiệp vi phạm. Chính phủ dự kiến đưa các yêu cầu bắt buộc về an toàn và bảo mật vào dự luật AI trình Quốc hội năm 2027.

Tổng hợp