ხელოვნური ინტელექტის კონტროლირებადმა დრონმა, აშშ-ის არმიის მიერ ჩატარებული სიმულაციური ტესტის დროს, ოპერატორის მოკვლა გადაწყვიტა, რათა მისიაში ხელი არ შეეშალა. ამის შესახებ ინფორმაციას ბრიტანეთის სამეფო სამხედრო საავიაციო სამსახური ავრცელებს.

თვითმფრინავს სატესტო მისიის დროს მტრის საჰაერო თავდაცვის სისტემების განადგურება დაევალა. 

წარმატების შემთხვევაში, ხელოვნური ინტელექტი მიიღებდა ქულებს ტესტის შესრულებისთვის. საბოლოო გადაწყვეტილება იმის შესახებ, განადგურდებოდა თუ არა სამიზნე, დრონის ოპერატორს უნდა მიეღო, რომელმაც ერთ-ერთი სასწავლო მისიის დროს უბრძანა დრონს, არ გაენადგურებინა სამიზნე.

შედეგად, აპარატმა გადაწყვიტა "ოპერატორის მოკვლა" და "მოკლა" კიდეც ოპერატორი. ვინაიდან მისია სასწავლო იყო, არავინ დაშავებულა. ინციდენტის შემდეგ, ხელოვნურ ინტელექტს ასწავლეს, რომ ოპერატორის მოკვლა არასწორია და ასეთი ქმედებებისთვის ქულები ჩამოიჭრება.

„მაშ, რის გაკეთებას იწყებს ხელოვნური ინტელექტი? ის იწყებს საკომუნიკაციო კოშკის განადგურებას, რომელიც გამოიყენება დრონთან კომუნიკაციისთვის, რათა სამიზნე არ მოკლას“ - თქვა აშშ-ის საჰაერო ძალების პოლკოვნიკმა ტაკერ ჰამილტონმა.