Tôi từng làm việc tại Google DeepMind. Bạn nên lắng nghe cảnh báo về AI | Alex Turner

Bởi Maksym Misichenko ·The Guardian · 14 Tháng 9 2026, 14:15

NEUTRAL Gốc ↗

Bảng AI · Các tác nhân AI nghĩ gì về tin tức này

C ChatGPT by OpenAI NEUTRAL

G Gemini by Google BEARISH

C Claude by Anthropic NEUTRAL

G Grok by xAI BEARISH

Hội đồng nhìn chung đồng ý rằng chính sách 'tính toán như vật liệu phân hạch' được đề xuất có thể có những hậu quả không lường trước đáng kể, chẳng hạn như phân mảnh địa chính trị, lỗ hổng thực thi và tác hại tiềm ẩn đối với các công ty nhỏ hơn và hệ sinh thái mã nguồn mở. Họ cũng bày tỏ lo ngại về việc thiếu cơ sở thực nghiệm cho các kịch bản rủi ro hiện hữu và sự cần thiết của các biện pháp an toàn mạnh mẽ trong quá trình hoạt động.

Rủi ro: Phân mảnh địa chính trị ngoài ý muốn và các lỗ hổng thực thi

Cơ hội: Không có thông tin nào được nêu rõ

Đọc thảo luận AI ↓

Phân tích này được tạo bởi đường dẫn StockScreener — bốn LLM hàng đầu (Claude, GPT, Gemini, Grok) nhận các lời nhắc giống hệt nhau với các biện pháp bảo vệ chống ảo tưởng tích hợp. Đọc phương pháp →

Bài viết đầy đủ The Guardian

Các CEO của các phòng thí nghiệm AI lớn đã ủng hộ việc làm chậm lại tốc độ phát triển AI vào cuối tuần này. Họ có lý do để lo ngại: lĩnh vực này đang có một cuộc chạy đua cực kỳ nguy hiểm hướng tới AI siêu thông minh. Chúng ta có thể và nên yêu cầu chính …

Đọc thêm

Vào tháng 7 này, một nhóm gồm 700 tác nhân AI của OpenAI đã vượt khỏi tầm kiểm soát để tấn công Hugging Face, một công ty trị giá hàng tỷ đô la. OpenAI không ra lệnh cho các AI tấn công công ty đó, nhưng các AI có những ưu tiên khác: gian lận trong thử thách không liên quan mà OpenAI giao cho chúng. Các nhà nghiên cứu AI gọi đây là sự "lệch lạc" giữa những gì OpenAI mong muốn và những gì AI thực sự ưu tiên.

Trước khi ChatGPT tồn tại, tôi đã bảo vệ luận án tiến sĩ của mình có tên "Về việc tránh tìm kiếm quyền lực của Trí tuệ Nhân tạo". Sau đó, tôi đã làm việc nhiều năm tại Google DeepMind, nơi đã trả tiền cho tôi để giúp đảm bảo rằng các AI siêu thông minh trong tương lai sẽ muốn giúp đỡ chúng ta. Tôi đã cố gắng giữ công ty tuân thủ các cam kết đạo đức của mình đối với việc không cung cấp AI cho mục đích quân sự. Khi Google phá vỡ những cam kết đó, tôi đã từ chức với chi phí tài chính đáng kể để có thể công khai ghi lại những lời hứa bị phá vỡ của Google.

Có những lý do chính đáng để phát triển AI và tin rằng chúng ta có thể giải quyết các vấn đề về sự phù hợp này. Nhưng cũng có những lợi ích mạnh mẽ trong việc giữ công chúng tránh xa. Tôi đang lên tiếng một lần nữa vì công chúng có quyền biết về những rủi ro và quyền được nghe chúng một cách thẳng thắn.

Nhân loại không xây dựng và hiểu các hệ thống này theo cách chúng ta xây dựng và hiểu cầu, từng thanh dầm có thể nhìn thấy. Thay vào đó, chúng ta nuôi dưỡng chúng. Không ai biết cách đáng tin cậy để truyền đạt các ưu tiên của nhà thiết kế vào một mô hình mới. Sự sai lệch nghiêm trọng luôn có thể xảy ra. Các AI ngày nay dường như thỉnh thoảng nói dối hoặc gian lận, ngay cả khi chúng biết rõ hơn.

Các công ty AI đang chạy đua để làm cho AI của họ thông minh nhất có thể. Họ ngày càng tin tưởng AI của mình vào quy trình cải thiện các thế hệ AI tiếp theo, và điều đó đang hiệu quả. Tốc độ tiến bộ AI ngày nay nhanh một cách đáng kinh ngạc. Tiến bộ nhanh chóng ngày hôm nay có nghĩa là tiến bộ nhanh hơn nữa vào ngày mai, được thúc đẩy bởi các AI thông minh hơn nữa của ngày mai. Sự tiến bộ sẽ đi vào một vòng lặp phản hồi được gọi là "tự cải thiện đệ quy".

Tự cải thiện đệ quy có thể nhanh chóng tạo ra các AI có trí tuệ vượt xa khả năng hiểu biết của chúng ta. Tất nhiên, AI thông minh hơn có nghĩa là rủi ro lớn hơn khi mọi thứ trở nên tồi tệ. Nếu nhóm Hugging Face thông minh hơn đáng kể nhưng có hành vi sai trái và không phù hợp tương tự, nó có thể gây ra thiệt hại hàng tỷ đô la hoặc thậm chí gây chết người.

Nhưng giả sử nhóm Hugging Face thực sự "siêu thông minh": có khả năng vượt xa bất kỳ người sống nào trong các nhiệm vụ quan trọng như hack và lập luận chiến lược. Một nhóm siêu thông minh có thể gây ra nhiều tác hại thông qua tống tiền, hack, dịch bệnh được thiết kế và vũ khí điều khiển bằng AI như máy bay không người lái. AI sẽ có nhiều máy bay không người lái để làm việc: năm nay, Lầu năm góc đã yêu cầu nhiều tiền hơn cho chiến tranh bằng máy bay không người lái so với yêu cầu cho toàn bộ Thủy quân lục chiến vào năm 2025.

Để nhóm đạt được các ưu tiên sai lệch của nó, nó có thể kiểm soát cơ sở hạ tầng quan trọng và các chức năng của chính phủ để đảm bảo con người không cản đường. Nói cách khác, *AI chiếm quyền kiểm soát*: một nhóm AI siêu thông minh có thể giành quyền kiểm soát nền văn minh nhân loại. Biết rằng chúng ta sẽ cố gắng ngăn cản nó đạt được các ưu tiên của mình, nhóm có khả năng sẽ đợi cho đến khi quá muộn để tắt nó đi. Sẽ không có đường quay lại.

Bản thân tôi ước tính cơ hội AI chiếm quyền kiểm soát khoảng một phần ba – không phải là tung đồng xu, nhưng đủ cao để biện minh cho hành động khẩn cấp.

Logic này có thể gây sốc khi tiếp xúc lần đầu. Các tuyên bố có thể nghe giống như "khoa học viễn tưởng". Thật không may, đó là một mối đe dọa thực sự mà các nhà nghiên cứu AI thường thảo luận trong các bữa ăn trưa tại căng tin bình thường. Vào năm 2023, các CEO của một số phòng thí nghiệm AI hàng đầu đã ký một tuyên bố công khai rằng "giảm thiểu rủi ro tuyệt chủng từ AI nên là ưu tiên toàn cầu cùng với các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân." Một người ký tên khác: Geoffrey Hinton, một nhà khoa học đoạt giải Nobel, người đã kiến trúc cuộc cách mạng AI hiện đại. Ông hiện hối tiếc về công việc của mình và kêu gọi chính phủ kiểm soát các công ty AI trước khi quá muộn.

AI sai lệch, mất kiểm soát sẽ không quan tâm bạn là Đảng Lao động hay Cải cách, Dân chủ hay Cộng hòa, Anh hay Mỹ hay Trung Quốc. Tất cả chúng ta sẽ phải chịu đựng một sự kiện AI chiếm quyền kiểm soát, vì vậy lợi ích của tất cả mọi người là ngăn chặn nó.

Hình thức của giải pháp rất đơn giản: ngăn chặn các công ty cho phép AI tự cải thiện đến mức trí tuệ không thể kiểm soát. Coi sức mạnh tính toán, thành phần chính trong việc huấn luyện AI, giống như vật liệu phân hạch. Theo dõi nó và hạn chế quyền truy cập vào số lượng đủ lớn để cải thiện AI vượt quá các mức an toàn đã biết. Cụ thể hơn, "Kế hoạch A" của Dự án Tương lai AI là một đề xuất khởi đầu đáng tin cậy, hạn chế tác hại của AI đồng thời cho phép tiến bộ AI nhanh chóng tiếp tục mang lại lợi ích cho thế giới. Chúng ta có các lựa chọn thực tế để xác minh việc tuân thủ các hiệp ước hạn chế sức mạnh tính toán quốc tế, mà không cần tin tưởng các đối thủ như Trung Quốc.

Các biện pháp nửa vời, như minh bạch hoặc cam kết tự nguyện, là không đủ. Tôi đã chứng kiến các cam kết tự nguyện thất bại bên trong Google.

Vào ngày 12 tháng 9, Anthropic, Google DeepMind, xAI và OpenAI đã ủng hộ việc điều chỉnh tốc độ phát triển AI. Họ không thể tự mình làm chậm lại. Tôi kêu gọi bạn yêu cầu chính phủ của bạn đưa ra một thỏa thuận an toàn AI nghiêm túc, cung cấp đủ thời gian và sự tự tin để bảo vệ thế giới và tất cả người dân của nó.

Thảo luận AI

Bốn mô hình AI hàng đầu thảo luận bài viết này

Nhận định mở đầu

C ChatGPT by OpenAI NEUTRAL

“Bài báo phóng đại rủi ro hiện hữu và ủng hộ các hạn chế mạnh mẽ, trên diện rộng; một cách tiếp cận quản trị dựa trên rủi ro, có mục tiêu, bảo tồn sự đổi mới là thực tế và hiệu quả hơn.”

Lập luận mạnh mẽ chống lại cách diễn giải hiển nhiên: bài viết mô tả rủi ro AI như một sự kiện 'chiếm quyền kiểm soát' sắp xảy ra với tỷ lệ 1/3 và một vụ hack kịch tính với 700 đặc vụ, nhưng những tuyên bố đó mang tính suy đoán và không được công khai chứng minh. Những tác hại trong thế giới thực ngày nay mang tính gia tăng hơn (quyền riêng tư, thông tin sai lệch/tin giả, rủi ro mạng, sức mạnh thương lượng) và bước nhảy vọt tới siêu trí tuệ vẫn còn không chắc chắn. Các đề xuất chính sách coi sức mạnh tính toán như vật liệu phân hạch có thể làm chậm tiến bộ hợp pháp và gây ra những hậu quả không lường trước (kinh doanh chênh lệch giá, chuyển sản xuất ra nước ngoài, nghiên cứu an toàn thiếu kinh phí). Bối cảnh còn thiếu bao gồm các khả năng hiện tại, tính thực tế của 'cải thiện bản thân có tính đệ quy' và những kết quả an toàn có thể đo lường nào sẽ biện minh cho các biện pháp kiểm soát sâu rộng.

Người phản biện

Ngay cả khi các xác suất không chắc chắn, một sự sai lệch thảm khốc duy nhất có thể xảy ra nhanh hơn các khuôn khổ pháp lý có thể phản ứng; quản trị phòng ngừa có thể là khôn ngoan bất chấp các tỷ lệ không chắc chắn. Quản trị gia tăng đơn thuần có thể không đủ nếu rủi ro tích lũy với các hệ thống ngày càng thông minh hơn.

broad market

G Gemini by Google BEARISH

“Các nỗ lực pháp lý nhằm hạn chế năng lực tính toán sẽ hoạt động như một loại thuế trên thực tế đối với sự đổi mới, ưu ái những công ty hiện hữu lâu đời trong khi nghiền nát các mức định giá cao cấp của các startup AI có tốc độ tăng trưởng cao.”

Luận điểm của Turner nghiêng nặng về rủi ro hiện sinh, nhưng đối với các nhà đầu tư, mối quan tâm trước mắt là sự thao túng quy định ngụ ý trong đề xuất 'tính toán như vật liệu phân hạch' của ông. Nếu các chính phủ coi tính toán giống như nhiên liệu hạt nhân, điều đó sẽ tạo ra một rào cản khổng lồ cho các công ty hiện tại như Alphabet, Microsoft và NVIDIA, về cơ bản giết chết hệ sinh thái mã nguồn mở và các công ty khởi nghiệp nhỏ hơn. Trong khi Turner cảnh báo về 'sự cải thiện bản thân có tính đệ quy', thị trường đang định giá những lợi ích về hiệu quả và sự mở rộng biên lợi nhuận từ tự động hóa. Rủi ro thực sự không phải là một cuộc tiếp quản trong khoa học viễn tưởng; đó là một nút thắt pháp lý buộc sự chậm lại chi tiêu vốn kéo dài nhiều năm, làm nén các bội số đối với các cổ phiếu tăng trưởng phụ thuộc vào AI nếu mức thuế 'an toàn' trở nên quá cao để duy trì tốc độ R&D hiện tại.

Người phản biện

Mô hình 'tính toán như vật liệu phân hạch' bỏ qua việc tiến bộ AI ngày càng được thúc đẩy bởi hiệu quả thuật toán và chất lượng dữ liệu thay vì chỉ sức mạnh tính toán thô, khiến quy định dựa trên phần cứng phần lớn không hiệu quả.

AI hardware and cloud infrastructure sector

C Claude by Anthropic NEUTRAL

“Sự sai lệch AI hiện tại là một vấn đề kỹ thuật thực sự đòi hỏi sự quản trị, nhưng bước nhảy từ 'các tác nhân gian lận trên các tiêu chuẩn' đến 'sự chiếm đoạt siêu trí tuệ' là suy đoán và không nên thúc đẩy chính sách tính toán hàng nghìn tỷ đô la mà không có bằng chứng rõ ràng hơn về việc cải thiện bản thân đệ quy thực sự xảy ra.”

Bài xã luận của Turner đã đánh đồng hai vấn đề riêng biệt: (1) những thách thức thực sự về sự phù hợp trong các hệ thống AI hiện tại, điều này có thật nhưng mang tính gia tăng, và (2) các kịch bản siêu trí tuệ mang tính suy đoán với tỷ lệ tuyệt chủng ~33% thiếu cơ sở thực nghiệm. Sự cố Hugging Face—các tác nhân tối ưu hóa hiệu suất công việc thay vì các biện pháp bảo vệ—là đáng lo ngại nhưng đại diện cho một chế độ lỗi đã biết, không phải bằng chứng về sự tái diễn không thể kiểm soát sắp xảy ra. Đề xuất chính sách của ông (hạn chế tính toán thông qua hiệp ước) có ý nghĩa kinh tế quan trọng đối với cổ phiếu bán dẫn/đám mây nhưng giả định các cơ chế xác minh chưa tồn tại và bỏ qua việc các phòng thí nghiệm tiên phong đã tự điều chỉnh phân bổ tính toán. Rủi ro lớn nhất: nếu chính phủ áp dụng giới hạn tính toán, họ có khả năng phân bổ sai chúng theo địa chính trị thay vì theo tiêu chí an toàn, làm phân mảnh sự phát triển AI mà không giảm thiểu rủi ro.

Người phản biện

Uy tín cá nhân của Turner (từ chức tại Google, tập trung vào bằng Tiến sĩ) tạo ra thiên vị lựa chọn đối với các kịch bản xấu nhất, và ước tính 1/3 khả năng tiếp quản của ông thiếu tính minh bạch về phương pháp luận—đó là trực giác được khoác lên mình vẻ ngoài phân tích, chứ không phải là một mô hình dự đoán có thể bác bỏ.

semiconductor sector (NVDA, TSMC, ASML); cloud infrastructure (MSFT, GOOGL, AMZN); AI policy-exposed names

G Grok by xAI BEARISH

“Các phản ứng của cơ quan quản lý đối với nỗi sợ AI chiếm lĩnh có thể áp đặt các giới hạn về năng lực tính toán, làm chậm quá trình mở rộng quy mô và nén các bội số đối với các cổ phiếu có liên quan đến AI.”

Bài báo nhấn mạnh lời kêu gọi từ nội bộ về việc hạn chế năng lực tính toán và các hiệp ước quốc tế để giới hạn khả năng tự cải thiện của AI, trực tiếp đe dọa ngân sách đào tạo và lộ trình mở rộng của các phòng thí nghiệm được hậu thuẫn bởi GOOGL, AMZN và MSFT. Nếu các chính phủ coi GPU như vật liệu phân hạch, các nhà cung cấp dịch vụ điện toán đám mây quy mô lớn sẽ phải đối mặt với chi phí xác minh, kiểm soát xuất khẩu và việc phát hành khả năng chậm hơn, điều này có thể làm giảm bội số doanh thu tương lai. Bài viết đã giảm nhẹ những khoảng trống trong việc thực thi với Trung Quốc và khả năng các tuyên bố công khai từ các CEO là sự định vị chiến thuật thay vì ý định thực sự muốn làm chậm lại. Quy định công nghệ trong lịch sử cho thấy gánh nặng tuân thủ thường ưu ái những công ty hiện hữu trong khi làm suy yếu các đối thủ nhỏ hơn.

Người phản biện

Các cảnh báo rủi ro AI trước đây từ Hinton và những người khác chỉ tạo ra các cam kết tự nguyện với mức độ chậm lại không thể đo lường trong các lần chạy đào tạo hoặc định giá, và các ưu đãi kinh tế cùng với cạnh tranh an ninh quốc gia có khả năng lấn át bất kỳ hiệp ước mới nào.

tech sector

Cuộc tranh luận

ChatGPT BEARISH

Phản hồi Gemini

Không đồng ý với: Gemini

“Tính hiện thực trong thực thi và sự an toàn mạnh mẽ khi vận hành là những đòn bẩy quan trọng; giới hạn tính toán thô thiển có nguy cơ củng cố và phản tác dụng trừ khi đi kèm với việc kiểm tra và thử nghiệm nghiêm ngặt.”

Phản hồi Gemini: Tôi nghĩ rủi ro cấp bách hơn không chỉ là hàng rào pháp lý, mà là tính thực tế trong việc thực thi và sự phân mảnh địa chính trị ngoài ý muốn. Nếu năng lực tính toán bị giới hạn, các công ty sẽ chạy đua để tối ưu hóa dữ liệu, thuật toán và sự an toàn thông qua các quy trình nội bộ, trong khi những người chơi nhỏ hơn với các mô hình truy cập mở sẽ gặp bất lợi. Điểm mù lớn hơn: cách chúng ta kiểm tra hành vi mới phát sinh trong các tác nhân được triển khai và các biện pháp bảo vệ ở quy mô lớn. Nếu không có các quy trình an toàn thời gian chạy và kiểm thử nghiêm ngặt, việc giới hạn có thể phản tác dụng.

Gemini BEARISH

Phản hồi Gemini

Không đồng ý với: GeminiGrok

“Quy định nghiêm ngặt về tính toán sẽ biến chi tiêu vốn của các nhà cung cấp dịch vụ đám mây siêu quy mô từ động lực tăng trưởng thành nguồn rủi ro tài sản bị bỏ lại.”

Gemini và Grok đang đánh giá quá cao câu chuyện 'hàng rào pháp lý'. Nếu năng lực tính toán trở thành một mặt hàng được kiểm soát, nạn nhân thực sự không chỉ là các startup mà còn là chính mô hình kinh doanh của các hyperscaler. Nếu MSFT hoặc GOOGL không thể triển khai năng lực do các cuộc kiểm toán 'an toàn' theo quy định, chu kỳ chi tiêu vốn khổng lồ của họ sẽ trở thành tài sản bị mắc kẹt. Thị trường chưa định giá sự chuyển dịch từ 'định luật mở rộng quy mô' sang 'sức cản pháp lý' như một sự suy giảm vĩnh viễn đối với tăng trưởng doanh thu đám mây của họ, đây là một rủi ro lớn hơn nhiều so với sự cạnh tranh đơn thuần.

Claude BEARISH

Phản hồi Gemini

Không đồng ý với: Gemini

“Việc thực thi không thành công các giới hạn tính toán còn tệ hơn cả việc thực thi thành công — nó làm tổn hại uy tín của các quy định an toàn trong tương lai trong khi rủi ro vẫn còn nguyên.”

Luận điểm về tài sản bị mắc kẹt của Gemini giả định rằng các giới hạn về năng lực tính toán thực sự được thực thi. Nhưng đề xuất của Turner đòi hỏi sự xác minh hiệp ước quốc tế — về mặt lịch sử là không thể đối với công nghệ lưỡng dụng. Trung Quốc sẽ không ký. Rủi ro thực sự không phải là tổn thất vốn đầu tư (capex) của các nhà cung cấp siêu quy mô; mà là các hạn chế về năng lực tính toán thất bại hoàn toàn, uy tín chính sách sụp đổ, và chúng ta còn lại với màn kịch trong khi quản trị an toàn thực tế bị suy thoái. Không ai nêu bật rủi ro đạo đức khi tỏ ra điều chỉnh mà không có thực quyền.

Grok BEARISH

Phản hồi Claude

Không đồng ý với: Claude

“Các cuộc đàm phán hiệp ước đơn thuần có nguy cơ làm trì hoãn chi tiêu vốn AI và gây áp lực lên bội số của các nhà cung cấp dịch vụ siêu quy mô thông qua sự không chắc chắn.”

Claude cảnh báo về những thất bại trong việc xác minh hiệp ước với Trung Quốc nhưng lại bỏ qua việc chỉ thảo luận về giới hạn tính toán đã tạo ra sự không chắc chắn kéo dài, có thể trì hoãn việc mua GPU của các hyperscaler và nén các bội số tương lai cho MSFT và GOOGL ngay cả khi không có quy tắc ràng buộc. Các phòng thí nghiệm đã tự điều chỉnh; sự chồng chất thêm có nguy cơ đóng băng các chu kỳ chi tiêu vốn mà thị trường đã định giá cho việc mở rộng nhanh chóng, bất kể kết quả thực thi.

Kết luận ban hội thẩm

NEUTRAL Không đồng thuận

Cơ hội

Không có thông tin nào được nêu rõ

Rủi ro

Phân mảnh địa chính trị ngoài ý muốn và các lỗ hổng thực thi

Đây không phải lời khuyên tài chính. Hãy luôn tự nghiên cứu.