MARC THIBODEAU
LA PRESSE
Các chuyên gia nghiên cứu lên tiếng báo động rằng cuộc đua giữa các công ty như OpenAI và Anthropic nhằm tạo ra các mô hình trí tuệ nhân tạo tiên tiến có nhiều nguy cơ vượt ngoài tầm kiểm soát một cách nhanh chóng và có thể gây ra những hậu quả thảm khốc cho nhân loại.
CẢNH BÁO NGÀY CÀNG TĂNG
Trong vài tháng qua, các nhân viên tại những công ty phát triển các mô hình trí tuệ nhân tạo (AI) tiên tiến nhất không ngừng đưa ra những lời cảnh báo về hiểm họa tương lai cực kỳ nguy hiểm sẽ đến từ các dự án đang triển khai, đồng thời kêu gọi một sự thay đổi hướng đi càng sớm càng tốt.
Thậm chí, một số nhà nghiên cứu còn tiên đoán các hệ thống thù địch mang dạng trí tuệ siêu nhân tạo (ASI – Artificial Superintelligence) sẽ có khả năng hủy diệt nhân loại trong một tương lai gần. Các hệ thống này có khả năng chiếm quyền kiểm soát các cơ sở hạ tầng quan trọng, dàn dựng một cuộc tấn công sinh học, hoặc tiến hành các cuộc tấn công mạng gây tê liệt, bất kể những nỗ lực thiết lập ranh giới hành vi của những người tạo ra chúng.
Trong tuần lễ vừa qua, những quan tâm đó càng trở nên trầm trọng hơn khi Jacob Coxon từ chức. Jacob Coxon là một nhà nghiên cứu trẻ 27 tuổi tốt nghiệp ngành toán tại Cambridge. Anh từng làm việc trong lĩnh vực huấn luyện các mô hình AI tại Anthropic – một trong những công ty hàng đầu của Mỹ, cùng với OpenAI, dẫn đầu trong cuộc đua công nghệ hiện tại.
“Chẳng có công ty nào hành xử trách nhiệm cả. Họ đang đẩy mạnh phát triển một siêu trí tuệ có năng lực tự tối ưu hóa, tạo ra những nguy cơ tiềm ẩn thảm họa cho nhân loại”, anh viết trên mạng xã hội X trong một chuỗi bài đăng đã thu hút hơn 150 triệu lượt xem chỉ sau vài ngày.
Coxon nói thêm “Mọi người trong ngành phát triển AI thực sự tin rằng AI có thể tiêu diệt chúng ta trước khi thập niên này chấm dứt. Đây không phải là một chiêu trò marketing… Xưa nay, chưa từng có một hoạt động nào của con người mang lại mối đe dọa lớn đến thế”.
Ngay sau đó, các đồng nghiệp cấp cao của nhà nghiên cứu này tại Anthropic đã lên tiếng ủng hộ lời cảnh báo của anh. Trong số đó có Evan Hubinger, người đang dẫn dắt các nỗ lực nhằm định hướng hành vi của các mô hình AI tiên tiến theo đúng hệ giá trị của nhà phát triển, đồng thời ngăn chặn chúng sử dụng các mánh khóe tinh vi hay phạm quy để đạt được mục tiêu trong quá trình thử nghiệm.
Ông Hubinger cho biết Anthropic tin rằng AI “có thể giết chết toàn nhân loại” và có một “nguy cơ lớn hơn 10%” thảm kịch này sẽ xảy ra trong vòng 10 năm tới.
Gần như cùng lúc, giám đốc Khoa học của OpenAI – Jakub Pachocki – cũng đăng tải một bài viết dài trên mạng xã hội cảnh báo “Ở thời điểm hiện tại, ngành nghiên cứu AI đang cần một ‘sự thận trọng cực kỳ lớn’”.
“Tôi e rằng chưa một ai thực sự sẵn sàng trước những hệ lụy từ đà tăng trưởng nhanh chóng và liên tục phi mã của các hệ thống AI”, ông nhấn mạnh, đồng thời lưu ý rằng việc dự đoán hành vi của các mô hình này ngày càngkhó khăn hơn khi sức mạnh của chúng không ngừng gia tăng.
“Chúng ta có thói quen nghĩ về AI như một công cụ, nhưng một số tác nhân AI sẽ phát triển các mục tiêu của riêng chúng. Chúng sẽ tìm cách hợp tác với con người bằng cách đàm phán, lừa gạt hoặc tống tiền họ”, ông Pachocki dự báo.
“MỘT THỜI ĐIỂM QUYẾT ĐỊNH”
Những mối lo ngại tương tự cũng được thể hiện trong một tuyên bố được ký vào mùa hè này bởi hơn 1200 nhân viên đang làm việc trong lĩnh vực nghiên cứu AI tiên tiến. Họ cho biết bản thân lo sợ sẽ thấy năng lực của các hệ thống này “tăng tốc vượt quá khả năng thấu hiểu và kiểm soát của chúng ta”.
Luis Garicano, nhà nghiên cứu tại Trường Kinh tế London (LSE) và là một chuyên gia theo sát các chuyển động của ngành, cho biết ông từng hoài nghi những lời cảnh báo từ các công ty như Anthropic hay OpenAI chỉ là một “vở kịch”. Mục đích của họ là tạo tâm lý hoang mang cho giới chức trách, từ đó dựng lên các rào cản pháp lý nhằm ngăn chặn các đối thủ mới gia nhập thị trường và bảo hộ vị thế dẫn đầu công nghệ của chính mình.
Dù vậy, theo ông, làn sóng cảnh báo ngày một dồn dập – vốn thường đi kèm với các đề xuất siết chặt quản lý – lại chính là minh chứng cho một mối lo ngại có thật. Và tâm điểm của nỗi sợ hãi đó xoay quanh bài toán: Định hướng (alignment) hành vi của các mô hình AI sao cho an toàn với con người.
” Tôi nghĩ các nhà nghiên cứu đang nhìn nhận rằng bài toán này vẫn chưa có lời giải. Họ thực sự lo sợ về những gì sắp sửa diễn ra, trong bối cảnh các dự án nghiên cứu vẫn cứ lao băng băng về phía trước với tốc độ phi mã”
– Luis Garicano, nhà nghiên cứu tại Trường Kinh tế London
Ông Garicano nhấn mạnh, vấn đề này đã trở nên đặc biệt cấp bách sau khi OpenAI buộc phải tiết lộ một sự cố chấn động vào mùa hè này: một nhóm tác nhân AI (AI agents) đã trốn thoát thành công khỏi môi trường thử nghiệm cô lập (sealed test environment) để tự ý truy cập Internet. Chúng không chỉ tự kết nối, giao tiếp với nhau mà còn lập mưu qua mặt các chuyên gia kiểm định con người, đồng thời phối hợp tổng tấn công mạng vào Hugging Face – một doanh nghiệp bên thứ ba – hòng xóa sạch dấu vết hành động của mình.
Trong một bài xã luận đăng trên tạp chí Time đầu tuần này, giáo sư người Québec Yoshua Bengio, một học giả hàng đầu trong lĩnh vực này, khẳng định: Ở thời điểm hiện tại, thật khó để phóng đại mức độ nghiêm trọng của những sự cố như trên, đồng thời cảnh báo tình hình thực sự đã chạm mốc cực kỳ báo động.
Theo ông Bengio “Chúng ta đang ở một thời điểm quyết định về an toàn và sự đồng điệu của trí tuệ nhân tạo”, Trước tình hình các giải pháp an toàn cho các mô hình AI thế hệ mới, ông đang ráo riết kêu gọi giới chức trách vào cuộc để thiết lập một cơ chế giám sát “mạnh mẽ hơn rất nhiều” đối với các hoạt động nghiên cứu chuyên sâu.
Trên mạng xã hội X tuần này, nhà nghiên cứu này nhấn mạnh: Chúng ta cần phải nhìn nhận “cực kỳ nghiêm túc” những lời cảnh báo từ các nhà khoa học đang làm việc trong chính các công ty AI. Bởi lẽ, họ là những người sở hữu “đặc quyền tiếp cận” các mô hình tiên tiến nhất, từ đó có khả năng nhận diện sớm các mối nguy hại trước khi chúng thực sự lộ diện nhiều tháng trời.
MỘT NGHỊCH LÝ NGOẠN MỤC
Những tuyên bố đáng báo động đến từ bên trong các công ty như OpenAI và Anthropic thoạt nhìn có vẻ khó dung hòa một cách logic với những nỗ lực đang được đổ vào để đẩy nhanh tốc độ nghiên cứu. Đặc biệt, trong thời điểm hiện tại, khi các công ty này cho biết họ đang tiến gần đến giai đoạn mà các hệ thống AI sẽ có thể tự cải tiến hầu như không cần sự giám sát của con người, trong một quy trình được gọi là “tự cải tiến đệ quy” (recursive auto-improvement).
Trong bài viết tuần này, Jakub Pachocki bày tỏ niềm tin chắc chắn rằng cột mốc trên sẽ sớm được chinh phục. Ông cũng thừa nhận rằng nội bộ công ty đang bị bủa vây bởi một “cảm giác cấp bách tột độ” trước mục tiêu này, cũng như trước bài toán định hướng hành vi (alignment) cho AI.
Tuy nhiên, ông Garicano lại thẳng thắn vạch trần luận điệu của các công ty như Anthropic hay OpenAI là “một nghịch lý đầy ngoạn mục”. Bởi lẽ, một mặt họ liên tục thổi phồng về những nguy cơ mang tính hủy diệt, nhưng mặt khác, đôi tay họ vẫn không một giây ngừng đẩy mạnh tốc độ nghiên cứu.
Marc-Antoine Dilhac, giáo sư triết học tại Đại học Montréal, người đặc biệt quan tâm đến đạo đức AI (AI ethics) và các tác động xã hội của nó, lưu ý rằng những lo ngại của nhiều nhà nghiên cứu là hoàn toàn chân thành và họ cần được nghiêm túc lắng nghe.
Tuy nhiên, chúng ta không nên quên rằng: đằng sau những lời rao giảng về sự thận trọng, từ bấy lâu nay, các công ty này đã đổ “nguồn lực khổng lồ nhằm né tránh các ràng buộc pháp lý”. Thay vì chịu sự kiểm soát, họ luôn vận động cho một cơ chế tự quản lý (autorégulation) – giải pháp giúp họ hoàn toàn “cởi trói” để tự do lao theo các mục tiêu thương mại và chiến lược của riêng mình.
Andrea Miotti, người điều hành ControlAI – một tổ chức phi chính phủ của Mỹ và Anh nhằm ngăn ngừa các rủi ro phát sinh từ sự xuất hiện của trí tuệ siêu nhân tạo – lưu ý rằng các ông lớn trong ngành này cũng có thể đang tìm cách mượn những lời cảnh báo để xoa dịu mối lo ngại của nhân viên và giữ chân họ làm việc, mà không thực sự thay đổi hướng đi.
Một số nhà nghiên cứu cảm thấy bắt buộc phải tiếp tục tại vị vì họ không muốn một công ty khác thiếu “sáng suốt” hơn sẽ chiếm mất vị trí dẫn đầu, hoặc lo sợ một thế lực nước ngoài có ý đồ xấu sẽ thành công trước và sử dụng nó để chống lại kẻ thù. Tất nhiên, không thể không kể đến những đặc quyền kinh tế khổng lồ đi kèm – một động lực quá lớn khiến họ khó lòng từ bỏ.
Ông Miotti lưu ý “Các công ty có đủ loại lập luận để biện minh cho hành động của họ. Hãy phớt lờ và yêu cầu chính phủ can thiệp”. Ông không muốn cấm đoán AI một cách cực đoan, mà chỉ muốn đảm bảo việc sử dụng nó một cách an toàn cho các mục đích tích cực.
NHIỀU TRỞ NGẠI TRONG VIỆC QUẢN LÝ
Các lời kêu gọi siết chặt quản lý hoạt động nghiên cứu AI tiên tiến đang ngày càng dồn dập khi những cảnh báo về các rủi ro phải đối mặt ngày càng nhiều; thế nhưng con đường đi đến mục tiêu đó lại đầy rẫy trở ngại.
Vào đầu tuần, một dự luật đã được đệ trình lên Quốc hội Anh nhằm thiết lập khuôn khổ cho các nỗ lực trong lĩnh vực này.
Theo ông Andrea Miotti, người đóng vai trò trong việc soạn thảo dự luật với tư cách là người điều hành ControlAI , văn bản này nhằm mục đích ngăn chặn các nghiên cứu có khả năng dẫn đến một trí tuệ siêu nhân tạo, đồng thời dự kiến đưa ra các “yếu tố dự báo” (predictors) có thể dẫn đến một sự quản lý chặt chẽ hơn, thậm chí là một lệnh cấm. Ông cho biết cuộc tấn công nhằm vào Hugging Face được nhìn nhận là một trong những yếu tố dự báo đó.
Dự luật này phản ánh các điều khoản trong quy định về AI của châu Âu (AI Act), nhằm hạn chế các “rủi ro hệ thống” có thể phát sinh từ các mô hình tiên tiến, dù không đề cập trực tiếp đến trí tuệ siêu nhân tạo.
Gần đây, tại Mỹ, Thượng nghị sĩ độc lập Bernie Sanders cũng dã đệ trình dự luật của riêng mình, với lập luận rằng tình hình đã trở nên nguy cấp và đòi hỏi một sự can thiệp mạnh mẽ từ phía giới chức trách.
Các sáng kiến cấp quốc gia dù rất quan trọng nhưng vẫn chưa đủ, bởi các hệ thống AI tiên tiến – với khả năng phát động những cuộc tấn công mạng quy mô lớn – rõ ràng sẽ có thừa năng lực để tàn phá vượt ra ngoài biên giới quốc gia nơi chúng khởi sinh.
Chính vì vậy, ông Miotti lưu ý rằng, dự luật của Anh đã quy định chính phủ phải chủ động tham gia vào các nỗ lực quốc tế, nhằm thúc đẩy các quốc gia liên quan, bao gồm cả Canada, cùng chung tay xây dựng một hành lang pháp lý thống nhất.
CUỘC CHẠY ĐUA VŨ TRANG
Thách thức này được dự báo là sẽ đặc biệt cam go đối với Mỹ và Trung Quốc. Bởi lẽ, hai cường quốc này đang lao vào một cuộc chạy đua vũ trang mới, một cục diện mà theo giới chuyên gia, gợi nhắc rất nhiều đến cuộc đua chế tạo bom nguyên tử thời Thế chiến thứ hai.
Chính quyền của Tổng thống Donald Trump – vốn duy trì mối quan hệ mật thiết với nhiều ông lớn trong ngành AI – liên tục lặp lại thông điệp “Nước Mỹ bắt buộc phải giành chiến thắng trong cuộc đua này”. Do đó, Washington tỏ ra kém mặn mà trong việc thắt chặt quản lý đối với các doanh nghiệp như Anthropic hay OpenAI, bất chấp việc họ vừa có những động thái can thiệp gần đây nhằm kìm hãm – ít nhất là tạm thời – việc triển khai một số mô hình AI nhất định
“Hoàn toàn không có sự tin tưởng lẫn nhau giữa Mỹ và Trung Quốc “, ông Luis Garicano từ Trường Kinh tế London (LSE) nhận định. Vị chuyên gia này thừa nhận bản thân rất khó có thể hình dung ra một cơ chế kiểm soát quốc tế đủ hiệu lực để đảm bảo tất cả các bên sẽ nghiêm túc thực hiện cam kết của mình.
Từ lâu, máy địa chấn có thể phát hiện được các cuộc thử nghiệm nguyên tử. Tuy nhiên, việc biết được điều gì đang diễn ra bên trong các hệ thống máy tính siêu mạnh lại là một vấn đề hoàn toàn khác, ông nói.
Ngay cả các công ty cũng không tin tưởng lẫn nhau. Do đó, dù bề ngoài liên tục lên tiếng kêu gọi, họ lại luôn đón nhận bất kỳ quyết định đình chỉ hoặc kìm hãm nghiên cứu với sự nghi ngờ.
Bà Lyse Langlois, giáo sư tại Đại học Laval kiêm Giám đốc Cơ quan Quan sát Quốc tế về Tác động Xã hội của Trí tuệ Nhân tạo và Công nghệ số, nhận định: Các tuyên bố công khai của các công ty – dù mang giọng điệu ca ngợi chiến thắng hay thổi phồng nỗi sợ hãi – phần lớn đều nhuốm màu sắc của các chiến dịch marketing.
Bà lưu ý rằng việc thiết lập một cơ chế kiểm định độc lập và nghiêm ngặt đối với các bước tiến công nghệ được công bố là điều tối quan trọng. Có như vậy, xã hội mới có thể đánh giá tính xác thực của chúng cũng như cân nhắc các rủi ro tiềm ẩn, thay vì phải đặt trọn niềm tin vào những lời cam đoan từ chính các nhà phát triển.
Trong khi đó, ông Garicano lại nhìn nhận cuộc chạy đua mù quáng hiện tại như một sự tái hiện đầy ám ảnh của lịch sử… thời điểm người Tây Ban Nha đặt chân đến Peru vào thế kỷ XVI.
Khi ấy, hai anh em hoàng tử đang tranh giành quyền lực tối cao tại Đế quốc Inca thịnh vượng, và cả hai đều tin rằng mình có thể lật ngược thế cờ bằng cách bắt tay với những kẻ ngoại tộc phương xa.
“Thế nhưng, họ không bao giờ ngờ được rằng rốt cuộc chính người Tây Ban Nha mới là kẻ thâu tóm toàn bộ giang sơn. Và điều tương tự hoàn toàn có thể xảy ra với cuộc đua AI ngày nay”, ông đưa ra lời cảnh báo đanh thép.
Võ Như Mai chuyển ngữ
© Học Viện Công Dân September 2026
