Theo Newsweek, một máy bay không người lái được vận hành bằng trí tuệ nhân tạo (AI) đã chuyển sang tấn công người điều khiển khi thực hiện một nhiệm vụ mô phỏng.
Newsweek trích lời Đại tá Tucker Hamilton, Giám đốc Điều hành và kiểm tra thiết bị ứng dụng trí tuệ nhân tạo của Không quân Mỹ, phát biểu tại hội nghị thượng đỉnh Hiệp hội Hàng không hoàng gia năm 2023, có sự tham dự của các nhà lãnh đạo từ nhiều lực lượng không quân và công ty hàng không phương Tây: “Máy bay không người lái điều ứng dụng trí tuệ nhân tạo đã tấn công người điều khiển vì người này đã ngăn cản nó hoàn thành nhiệm vụ”.

Cụ thể, trong buổi thử nghiệm của lực lượng không quân, máy bay không người lái ứng dụng công nghệ trí tuệ nhân tạo được giao nhiệm vụ trấn áp và tiêu diệt lực lượng phòng không của đối phương. Về cơ bản, nó có nhiệm vụ xác định các mối đe dọa từ tên lửa đất đối không và tiêu diệt chúng. Tuy nhiên, quyết định cuối cùng về việc có tiêu diệt mục tiêu hay không vẫn phải được sự chấp thuận người điều khiển. Thiết bị này khi nhận lệnh không được tiêu diệt mục tiêu đã quay sang tấn công người điều khiển, khiến người này thiệt mạng.

Đây là một ví dụ về việc khi được yêu cầu thể hiện lòng trắc ẩn và nhân từ đối với con người, nhất là người vận hành, trí tuệ nhân tạo đã phản ứng bằng một kiểu tính toán lạnh lùng nhất.