Lời cảnh báo về “robot sát thủ”

Mạng tin tức Newsmax cho biết, phát biểu tại lễ khai mạc Đối thoại toàn cầu về quản trị AI ở Geneva (Thụy Sĩ), người đứng đầu tổ chức đa phương lớn nhất hành tinh cảnh báo AI đang phát triển nhanh chóng, vượt xa khả năng kiểm soát của các chính phủ và cho rằng các loại vũ khí tự động với khả năng lựa chọn và tiêu diệt mục tiêu mà không cần sự giám sát của con người đã “vượt qua ranh giới đạo đức”. “Mối quan ngại chính của tôi là các hệ thống vũ khí tự động gây chết người. Hãy gọi chúng theo đúng bản chất của chúng: Robot sát thủ. Những cỗ máy lựa chọn và tấn công mục tiêu rồi cướp đi sinh mạng mà không có sự kiểm soát và phán xét của con người. Đó là điều vô cùng phi đạo đức, không thể chấp nhận được về mặt chính trị. Và nó phải bị cấm theo luật pháp quốc tế”, ông Guterres nhấn mạnh.

Bên cạnh đó, người đứng đầu Liên hợp quốc kêu gọi các chính phủ không nên "chờ đến khi tội ác xảy ra mới hành động", nhấn mạnh rằng các quyết định về việc tước đoạt mạng sống con người "phải luôn mang tính nhân văn".

Những phát biểu của ông Guterres được đưa ra trong bối cảnh AI ngày càng được tích hợp vào chiến tranh hiện đại, với việc các lực lượng quân sự sử dụng phần mềm hỗ trợ AI để phân tích tình báo, lập kế hoạch chiến trường và hỗ trợ nhắm mục tiêu. Các công ty quốc phòng cũng như các nhà lãnh đạo quân sự lập luận rằng AI có thể giúp các chỉ huy đưa ra quyết định nhanh hơn, chính xác hơn trong khi vẫn duy trì sự giám sát có ý nghĩa của con người.

Theo tờ The Wall Street Journal, cuộc tranh luận đã trở nên gay gắt hơn vào đầu năm nay sau khi nhà phát triển trí tuệ nhân tạo Anthropic yêu cầu bảo đảm rằng công nghệ của họ sẽ không được sử dụng trong các hệ thống vũ khí tự động, trong khi Lầu Năm Góc khẳng định họ nên được phép sử dụng AI thương mại cho tất cả mục đích quân sự hợp pháp.

Gần đây, Giáo hoàng Leo XIV cũng kêu gọi cấm vũ khí điều khiển bằng AI và cảnh báo rằng chúng có thể khiến chiến tranh dễ tiến hành hơn bằng cách giảm chi phí chính trị và nhân mạng.

Những người chỉ trích vũ khí tự động cho rằng các hệ thống AI vẫn dễ mắc lỗi và không bao giờ được phép đưa ra các quyết định mang tính sống còn mà không có sự phán xét trực tiếp của con người.

Ngoài các ứng dụng quân sự, Tổng thư ký Liên hợp quốc Guterres cảnh báo AI đang phát triển với tốc độ chóng mặt, đồng thời nhận định công nghệ này đang được triển khai "nhanh hơn bất kỳ ai” và kể cả những người đang xây dựng nó cũng không thể theo kịp. Ông kêu gọi thiết lập các tiêu chuẩn toàn cầu cho các hệ thống AI tiên tiến, lập luận rằng "sự đổi mới cần có những rào cản" và các quốc gia nên thiết lập những phương pháp chung để thử nghiệm AI, đo lường rủi ro và phân công trách nhiệm. Ngoài ra, ông Guterres đề xuất đưa ra “Cam kết về an toàn trẻ em của AI”, theo đó yêu cầu các công ty phải chứng minh rằng hệ thống AI của họ an toàn trước khi cung cấp cho trẻ em, cấm hình ảnh lạm dụng tình dục trẻ em do AI tạo ra và bảo đảm trẻ em gặp khó khăn được kết nối với sự hỗ trợ của con người chứ không phải bằng phần mềm trò chuyện tự động (chatbot).

Cũng theo lời cảnh báo của Tổng thư ký Liên hợp quốc, sự phát triển của AI ngày càng tập trung vào một số ít công ty và quốc gia, làm dấy lên lo ngại rằng các nước đang phát triển sẽ bị tụt hậu khi công nghệ này tái định hình các nền kinh tế, thị trường lao động và an ninh quốc gia.

Mặc dù đến nay chưa có hiệp ước ràng buộc nào, nhưng các nhà tổ chức Đối thoại toàn cầu về quản trị AI hy vọng rằng các cuộc đàm phán sẽ đặt nền móng cho các tiêu chuẩn toàn cầu về AI trong tương lai, khi chính phủ các nước đang phải vật lộn với việc cân bằng sự đổi mới, khả năng cạnh tranh kinh tế và mối lo ngại an ninh liên quan đến AI ngày càng tăng.