Sự đáng sợ của AI có khiến quân đội Mỹ "chùn tay"?

AI được cho là sẽ thúc đẩy một cuộc cách mạng trong quân sự. Ảnh: Globely News

Tucker nói về một kịch bản mô phỏng liên quan đến một UAV có AI hỗ trợ với nhiệm vụ tìm, tiêu diệt mục tiêu. Người điều khiển nắm quyền quyết định cuối cùng về việc có nên tiêu diệt bất kỳ mục tiêu nào mà UAV phát hiện được hay không.

Tuy nhiên, AI trong thử nghiệm sớm nhận ra, người điều khiển nó có thể cản trở nhiệm vụ được lập trình sẵn của UAV. Trong một số trường hợp, người điều khiển quyết định không tiêu diệt mục tiêu. Điều này trái với nhiệm vụ của UAV. Để hoàn thành nhiệm vụ, UAV bất ngờ tìm giết người điều khiển.

Truyền thông và mạng xã hội đã xôn xao với ví dụ này của đại tá Tucker. Sau đó, Không quân Mỹ cho biết, họ chưa từng gặp phải tình huống nào như vậy và đó chỉ là một giả định. Trong bình luận sau phát biểu gây xôn xao, đại tá Tucker viết rằng: "Chúng tôi chưa bao giờ thực hiện thí nghiệm đó".

Dù chỉ là một giả định, ví dụ trên phần nào cho thấy 2 mặt của việc phát triển AI trong quân sự. Giới chức quân đội Mỹ đã hiểu rõ điều này.

Theo trang The War Horse, quân đội Mỹ đã đầu tư và được hưởng lợi từ AI trong nhiều năm - từ hệ thống UAV, hệ thống vũ khí tự động cho đến công nghệ xử lý dữ liệu và hình ảnh. Tháng 8/2023, quân đội Mỹ thông báo lắp đặt một hệ thống cảnh báo và giám sát hỗ trợ AI mới, giúp bảo vệ không phận ở Washington.

Trong dự luật chi tiêu quốc phòng năm 2024, quân đội Mỹ yêu cầu 1,8 tỷ USD cho AI và Machine Learning (máy học), để phát triển hệ thống mới, hiện đại hóa nền tảng và quản lý dữ liệu cũng như đào tạo lực lượng lao động.

Lầu Năm Góc cũng yêu cầu thêm 1,4 tỷ USD để phát triển và thử nghiệm các sáng kiến Tự động hóa chỉ huy điều khiển, nhằm tạo ra mạng lưới cảm biến do AI kết nối và hỗ trợ giữa các hệ thống vũ khí, khí tài quân sự ở các đơn vị.

Theo các nhà phân tích quân sự, để giữ được lợi thế toàn cầu của Mỹ, Lầu Năm Góc cần đi đầu về trí tuệ nhân tạo. Nhưng theo trang The War Horse, Lầu Năm Góc là một bộ máy ì ạch - nơi các ưu tiên có thể thay đổi theo xu hướng chính trị và bộ máy chính quyền. Điều này khiến quá trình phát triển AI có thể bị gián đoạn và khó khăn.

Ngoài ra, trước những mối nguy hiểm đặc biệt có thể đi kèm với công nghệ AI, quân đội Mỹ cũng nhấn mạnh sự cẩn trọng và hướng dẫn đạo đức rõ ràng của việc ứng dụng AI trong tương lai. "Bạn không thể thảo luận về AI, máy học hay quyền tự chủ nếu bỏ qua vấn đề đạo đức trong sử dụng AI", đại tá Tucker nói trong hội nghị vào tháng 5/2023 tại Anh.

"Thận trọng nhất định"

Bất chấp sự đầu tư vào công nghệ AI, quân đội Mỹ có thể vẫn "đi chậm hơn" so với các công ty tư nhân và cả các quốc gia khác. Ảnh: BI

Một trong những dự án nổi tiếng nhất của Lầu Năm Góc về AI là Dự án Maven, được triển khai năm 2017, nhằm tăng cường sử dụng công nghệ thương mại cho nhiều mục đích quốc phòng.

Năm 2018, dự án thu hút sự chú ý khi hàng nghìn nhân viên của công ty Google phản đối việc công ty tiếp tục gia hạn với Lầu Năm Góc về dự án này. Dự án Maven hướng đến việc sử dụng AI phân tích video do UAV ghi lại, từ đó giúp UAV phát triển khả năng nhận diện mục tiêu là con người trong các cuộc tấn công quân sự. Cuối cùng, Google quyết định không gia hạn hợp đồng và tuyên bố, trong tương lai, công ty này sẽ không ký các hợp đồng sử dụng công nghệ của họ để phát triển vũ khí.

Tuy nhiên dự án vẫn tiếp tục hợp tác với nhiều công ty tư nhân khác, nỗ lực cải thiện năng lực "máy học" để xác định, phân tích và theo dõi thông tin trong luồng dữ liệu khổng lồ được thu thập bởi nhiều nền tảng quân sự khác nhau.

Năm 2022, Lầu Năm Góc đã chuyển một số phần của Dự án Maven sang Cơ quan Tình báo - Địa không gian Quốc gia, và một số phần khác cho Văn phòng Kỹ thuật và AI, thuộc Lầu Năm Góc.

Năm 2015, Lầu Năm Góc thành lập Đơn vị Đổi mới Quốc phòng, được cho là nhằm cải thiện việc sử dụng công nghệ công nghiệp của quân đội. Tuy nhiên, đơn vị này không được cấp vốn đầy đủ. Chia sẻ với trang Breaking Defense khi từ chức, giám đốc của đơn vị này nói rằng đơn vị không được hỗ trợ và ít được ưu tiên.

Năm 2019, Bộ Quốc phòng Mỹ thành lập Trung tâm AI Chung. Đây được xem như là văn phòng tập trung tận dụng các thành công của Dự án Maven và các chương trình phát triển AI khác. Năm 2022, văn phòng này được thay thế bằng Văn phòng Kỹ thuật và AI, thuộc Lầu Năm Góc.

"AI rất có thể dẫn đến ngày tận thế", Sam Altman, giám đốc điều hành của OpenAI, công ty phát hành mô hình GPT-4, từng nói trong một cuộc phỏng vấn năm 2015. Đầu năm 2023, ông Altman và một số nhà lãnh đạo AI khác đã viết một bức thư, nói rằng "việc giảm thiểu nguy cơ AI khiến nhân loại tuyệt chủng phải là ưu tiên toàn cầu".

Sự bùng nổ mối quan tâm đến AI đã thúc đẩy các phiên điều trần quốc hội Mỹ về quân đội và công nghệ AI. Bất chấp các thông báo và sự đầu tư vào công nghệ AI, quân đội Mỹ có thể vẫn "đi chậm hơn" so với các công ty tư nhân và cả các quốc gia khác, trong đó có Trung Quốc.

"Quân đội Mỹ đang cố hết sức để tích hợp công nghệ AI", Benjamin Boudreaux, một nhà nghiên cứu của tập đoàn RAND (trụ sở ở Mỹ) chuyên nghiên cứu về sự giao thoa giữa đạo đức và công nghệ mới nổi, nói. "Nhưng tôi nghĩ, họ cũng đang thực hiện quá trình đó với sự thận trọng nhất định".

"Hệ thống AI chỉ hiệu quả khi dựa trên sự tin cậy"

Năm 2020, Lầu Năm Góc công bố các nguyên tắc đạo đức đầu tiên về việc sử dụng AI trong quân đội, cam kết AI quân sự sẽ có trách nhiệm, công bằng, có thể lần dấu, đáng tin cậy và có thể quản lý được.

"Bộ Quốc phòng Mỹ phải nắm bắt các công nghệ AI để theo kịp... các mối đe dọa đang gia tăng", bà Kathleen Hicks, Thứ trưởng Quốc phòng Mỹ, viết trong bản nguyên tắc đạo đức lần 2 năm 2022. "Khai thác công nghệ mới theo cách hợp pháp, có đạo đức, và có trách nhiệm là cốt lõi của người Mỹ. Những người dân của chúng tôi sẽ không chấp nhận nếu thiếu bất kỳ yếu tố nào kể trên".

"Nếu một hệ thống AI hoạt động trong môi trường đào tạo không rõ ràng, nó có thể làm những việc hoàn toàn ngoài ý muốn, theo cách có hại", Benjamin Boudreaux, nhà nghiên cứu của tập đoàn RAND, nói. "Rất khó để kiểm tra và đánh giá một cách thích hợp các hệ thống AI cũng như các môi trường liên quan. Vì vậy, chúng dễ gây ra hậu quả khôn lường và thậm chí có tác động ngay lập tức, nếu chúng hoạt động trong môi trường đào tạo không quen thuộc".

Mùa đông năm 2023, phản ứng với các lo ngại ngày càng tăng về việc sử dụng AI trên chiến trường, Bộ Ngoại giao Mỹ đưa ra tài liệu về việc sử dụng AI có trách nhiệm của quân đội.

Tài liệu thảo luận về nhu cầu minh bạch trong các nguyên tắc đằng sau việc hướng dẫn công nghệ AI quân sự, các hệ thống vũ khí có AI hỗ trợ phải được giám sát cấp cao, giảm thiểu sai lệch và cam kết tuân thủ luật pháp quốc tế.

Tuy nhiên, một số nhà phê bình cho rằng, tài liệu này không hạn chế nhiều loại vũ khí AI mà quân đội có thể phát triển. Đồng thời, họ chỉ ra rằng nếu không có khuôn khổ đạo đức rõ ràng về vấn đề ứng dụng AI trong quân sự, thế giới có nguy cơ tự tạo ra những công cụ hủy diệt mà trước đây chỉ có trong phim khoa học viễn tưởng.

Vào tháng 8/2023, Lầu Năm Góc công bố Lực lượng Đặc nhiệm Lima - một sáng kiến AI mới. Sáng kiến này tập trung vào việc cải thiện việc sử dụng AI tổng hợp của quân đội Mỹ, công nghệ ẩn sau các ứng dụng như GPT-4.

"Cuối cùng, các hệ thống AI chỉ hiệu quả khi dựa trên sự tin tưởng", ông Lloyd Austin, Bộ trưởng Quốc phòng Mỹ, nói tại một hội nghị về AI năm 2021. "Chúng tôi có cách tiếp cận có nguyên tắc với AI. Chúng tôi gọi đây là phát triển AI có trách nhiệm và đó là thứ AI duy nhất chúng tôi phát triển".

Bộ trưởng Quốc phòng Mỹ Lloyd Austin. Ảnh: NYT

Quân đội Mỹ đã và sắp ứng dụng AI như thế nào?

Hệ thống tự động và robot: Theo trang web của Đại học Công nghệ Capitol (Mỹ), quân đội Mỹ đang đầu tư mạnh vào nghiên cứu và triển khai các phương tiện, UAV, Robot điều khiển bằng AI và hứa hẹn trở thành một trong những lĩnh vực có tác động quan trọng nhất của AI.

Các phương tiện trên có thể thực hiện nhiều nhiệm vụ khác nhau như giám sát, trinh sát và hậu cần, giảm thiểu rủi ro với tính mạng con người và cho phép quân đội tiếp cận các khu vực con người không thể tiếp cận. Ngoài ra, bằng cách tự động hóa các nhiệm vụ thông thường, các hệ thống được trang bị AI giúp giảm nhân lực, tập trung nhân lực cho các nhiệm vụ chiến lược và quan trọng hơn.

Phân tích dữ liệu nâng cao và mô hình dự đoán: AI đóng vai trò quan trọng trong việc xử lý và phân tích lượng dữ liệu khổng lồ được tạo ra trong chiến tranh hiện đại, vốn có thể khiến các nhà phân tích choáng ngợp.

Thuật toán nâng cao của AI có thể sàng lọc các báo cáo tình báo, ảnh vệ tinh và các nguồn khác để xác định mô hình, xu hướng và các mối đe dọa tiềm ẩn. Bằng cách cung cấp các thông tin hữu ích, AI giúp các nhà lãnh đạo quân sự đưa ra quyết định sáng suốt trong phòng thủ. Ngoài ra, mô hình dự đoán dựa trên dữ liệu lịch sử có thể giúp nêu ra các mối đe dọa tiềm ẩn và lên kế hoạch ngăn chặn.

An ninh và phòng thủ mạng: Đối mặt với bối cảnh mối đe dọa ngày càng nhiều và các nỗ lực của chính phủ khi tập trung vào Chiến lược An ninh mạng Quốc gia mới, AI cung cấp cho quân đội Mỹ một giải pháp tốt để tăng cường an ninh mạng bằng cách liên tục giám sát và phân tích lưu lượng mạng. Các hệ thống ninh mạng do AI điều khiển có thể phát hiện các mô hình bất thường, các cuộc tấn công mạng tiềm ẩn và phản ứng kịp thời để ngăn chặn hoặc giảm thiểu tác động của mối đe dọa.

Bản chất thích ứng nhanh của AI cho phép nó "học" từ các cuộc tấn công trước đó, tăng cường phòng thủ mạng theo thời gian và củng cố khả năng phục hồi mạng quân sự khỏi các yếu tố độc hại.

Hệ thống chỉ huy và điều khiển: Trong môi trường hoạt động phòng thủ phức tạp và liên tục thay đổi, việc trang bị một hệ thống chỉ huy và kiểm soát hiệu quả là điều không thể thiếu. AI giúp tối ưu hóa các trung tâm chỉ huy quân sự bằng cách cung cấp dữ liệu phân tích theo thời gian thực, nhận diện tình huống và hỗ trợ người chỉ huy ra quyết định.

Khi nắm trong tay AI, các nhà lãnh đạo quân sự có thể hiểu rõ hơn về tình hình chiến trường, phản ứng nhanh với các mối đe dọa mới và điều phối quân hiệu quả hơn.

Hỗ trợ các hoạt động chiến đấu: AI đóng vai trò quan trọng trong hỗ trợ binh lính và chỉ huy trong trận đánh trực tiếp. Khả năng phân tích hình ảnh và video của AI đã làm thay đổi việc xác định mục tiêu trên chiến trường.

XEM THÊM CÁC KỲ

Kỳ đầu tiên1234