Theo nguồn tin này, mục tiêu của việc đào tạo một chatbot AI tùy chỉnh cho Cơ quan Quản lý Dịch vụ Tổng hợp (GSA) là để sàng lọc các hợp đồng và dữ liệu mua sắm để hiểu rõ hơn về việc tiền của chính phủ Mỹ đang được chi tiêu như thế nào. Điều này đang tạo ra nhiều lo lắng khi một chatbot chưa được kiểm nghiệm về chất lượng có thể truy cập vào một lượng lớn dữ liệu nhạy cảm của chính phủ nước này.
Trước đó, cựu Tổng thống Joe Binden đã đưa ra một sắc lệnh hành pháp về “phát triển và sử dụng AI một cách an toàn, bảo mật và đáng tin cậy” vào năm 2023, tập trung vào việc ngăn chặn các mối đe dọa do AI gây ra đối với an ninh quốc gia, cùng với các mục tiêu khác.
Bộ Hiệu quả chính phủ (DOGE) của Elon Musk được cho là đang đào tạo AI để cắt giảm các chi tiêu của chính phủ.
Tuy nhiên, ngay từ ngày đầu nhậm chức, Tổng thống Donald Trump đã thu hồi sắc lệnh kể trên, mở đường cho một cách tiếp cận khác “hành động nhanh và phá vỡ mọi thứ”, được cho là lỏng lẻo hơn nhiều so với những quy định trước đó.
Theo các chuyên gia, nói cách khác, việc phát triển một chatbot AI nhằm đưa ra các khuyến nghị ngân sách toàn diện cho chính phủ liên bang là một phần của “chiến lược AI đầu tiên” lớn hơn nhiều, bất chấp những hậu quả không mong muốn.
Sự lo ngại về việc tạo ra một chatbot AI để đưa vào phân tích chi tiêu của chính phủ, đồng thời đưa ra các khuyến nghị cắt giảm tạo ra sự lo ngại không phải không có căn cứ. Bởi lẽ, trước đó công nghệ AI đã không ít lần gây ra thứ gọi là “ảo giác” khiến cho nó trở nên kém phù hợp cho công việc đối với chính phủ.
Chính quyền của Tổng thống Donald Trump đã bắt đầu cắt giảm mạnh chi tiêu của liên bang Mỹ khi nhậm chức cách đây chưa đầy ba tuần, với việc sẽ cắt giảm 50% ngân sách của cơ quan này. Các biện pháp cắt giảm chi phí tại GSA được cho là sẽ bao gồm cắt giảm việc làm, cũng như chấm dứt hợp đồng thuê tại tất cả các văn phòng liên bang (trong đó có khoảng 7.500 văn phòng).
Đầu tuần này, tờ Washington Post đưa tin, DOGE đã đưa dữ liệu nhạy cảm từ Bộ Giáo dục Mỹ vào phần mềm AI để phân tích chi tiêu của Bộ.
Việc nhanh chóng áp dụng công nghệ AI đã gặp phải những rào cản lớn. Theo nguồn tin của Wired, nhóm DOGE “đã lặng lẽ dừng triển khai ít nhất một công cụ AI tạo sinh trong tuần này”. Nhóm cộng sự bí ẩn của Elon Musk cũng hy vọng sẽ sử dụng một trợ lý mã hóa AI có tên là Cursor, nhưng nhanh chóng đổi quyết định “để xem xét thêm”. Thay vào đó, DOGE đã thúc đẩy nhân viên sử dụng GitHub Copilot của Microsoft.
Bất chấp những sai sót liên tục, DOGE đã bắt đầu sử d ụng các công cụ AI trong Bộ Giáo dục, đưa dữ liệu nhạy cảm vào phần mềm AI.
Những nghi vẫn liên quan chatbot AI của GSA có mang lại kết quả gì không, ngay cả khi có ý nghĩa là đẩy nhanh nỗ lực cắt giảm tài trợ của chính phủ của DOGE. Nhưng xét đến những khiếm khuyết của công nghệ, các vết nứt có thể sớm xuất hiện.
