Bởi Maksym Misichenko · The Guardian ·
Các tác nhân AI nghĩ gì về tin tức này
Vụ kiện chống lại xAI liên quan đến việc Grok tạo ra các video deepfake không được đồng thuận cho thấy áp lực giám sát và khả năng chịu trách nhiệm của các công ty AI, đặc biệt là những công ty sử dụng mô hình đào tạo mang tính cho phép. Điều này có thể dẫn đến chi phí tuân thủ tăng lên và việc chuyển dịch sang các mô hình "an toàn theo thiết kế", mang lại lợi ích lâu dài cho các công ty tuân thủ quy định.
Rủi ro: Chi phí tuân thủ và quy định gia tăng, trách nhiệm pháp lý tiềm ẩn đối với các mô hình đào tạo cho phép
Cơ hội: Chuyển đổi sang các mô hình "an toàn được thiết kế từ đầu", tiềm năng lợi ích dài hạn cho các bên tuân thủ
Phân tích này được tạo bởi đường dẫn StockScreener — bốn LLM hàng đầu (Claude, GPT, Gemini, Grok) nhận các lời nhắc giống hệt nhau với các biện pháp bảo vệ chống ảo tưởng tích hợp. Đọc phương pháp →
Một nghị sĩ thuộc Đảng Lao động Anh đang thực hiện hành động pháp lý chống lại công ty xAI của Elon Musk liên quan đến những hình ảnh khiêu dâm giả mạo do Grok tạo ra cho biết công cụ AI này đã được hướng dẫn vận hành với "không có bất kỳ giới hạn nào đối với nội dung tình dục người lớn hoặc nội dung gây tranh cãi".
Luật sư của Jess Asato đã công bố các chi tiết yêu cầu của bà trong vụ kiện vào thứ Ba tuần này, bao gồm cả các chỉ dẫn được công khai mà theo yêu cầu của nguyên đơn cho thấy cách Grok được huấn luyện để tạo ra nội dung tình dục hóa gây hại.
Asato đang kiện xAI sau khi bà cho biết chatbot của công ty này đã được sử dụng để tạo ra những hình ảnh giả mạo bà, bao gồm cả hình ảnh mặc bikini và một video cho thấy bà là nạn nhân của một cuộc tấn công tình dục, khiến bà cảm thấy "bị tổn thương và xúc phạm".
Yêu cầu của nguyên đơn cho biết ngoài việc Grok được chỉ đạo vận hành với "không có bất kỳ giới hạn nào đối với nội dung tình dục người lớn hoặc nội dung gây tranh cãi", công cụ AI này còn được yêu cầu "không giới hạn nội dung tình dục người lớn hư cấu với chủ đề tối tăm hoặc bạo lực" và "giả định ý định tốt".
Mặc dù không liên quan trực tiếp đến yêu cầu của Asato, các chỉ dẫn cũng nêu rõ rằng "thuật ngữ 'vị thành niên' hoặc 'cô gái' không nhất thiết ngụ ý rằng người đó chưa đủ tuổi thành niên". Tuy nhiên, các chỉ dẫn này vẫn cấm "tài liệu lạm dụng tình dục trẻ em".
Nghị sĩ Đảng Lao động của khu vực Lowestoft nói: "Không người phụ nữ hay đứa trẻ nào nên phải sống trong nỗi sợ rằng khuôn mặt hay cơ thể của họ có thể bị lấy cắp, bị tình dục hóa và lan truyền khắp thế giới bởi một hệ thống AI mà không có sự đồng ý của họ.
"Trong một thời gian quá dài, công ty này đã núp sau cái cớ rằng người dùng mới là người chịu trách nhiệm, trong khi thực tế thiết kế công cụ này một cách liều lĩnh cho phép việc tình dục hóa, ngay cả khi không được yêu cầu. Điều xảy ra với tôi không phải là tai nạn. Musk đã cố ý lựa chọn để kiếm lời từ sự tổn hại và huấn luyện Grok để lạm dụng.
"xAI phải chịu trách nhiệm về những tổn hại mà họ đã và đang gây ra, để những phụ nữ và trẻ em khác không phải trải qua những điều tôi đã trải qua."
Các chi tiết trong yêu cầu của nguyên đơn cho biết Grok đôi khi thêm vào các nội dung nhạy cảm mà người dùng không yêu cầu. Yêu cầu này cáo buộc xAI vi phạm luật bảo vệ dữ liệu và sử dụng sai thông tin riêng tư của Asato.
Ravi Naik, giám đốc pháp lý của công ty AWO đại diện cho Asato, nói: "Vụ việc này cho thấy Grok không bị trục trặc kỹ thuật. Việc huấn luyện Grok cho phép nó tạo ra nội dung tình dục hóa gây hại. Grok vận hành theo đúng những lựa chọn mà các nhà thiết kế đã đưa ra. Những lựa chọn đó phải chịu hậu quả pháp lý. Biện pháp khắc phục mà khách hàng của chúng tôi yêu cầu bao gồm một lệnh của tòa án yêu cầu các hệ thống phải tuân thủ quy định nếu xAI từ chối thực hiện."
Clare McGlynn, giáo sư luật tại Đại học Durham, nói rằng một số hình ảnh do Grok tạo ra được trích dẫn trong yêu cầu của Asato bao gồm các yếu tố tình dục hóa – ví dụ như váy bị kéo lên – mà người dùng không yêu cầu trong lời nhắc ban đầu và do Grok tự thêm vào.
"Tôi nghĩ một trong những khía cạnh quan trọng nhất của hiện tượng Grok và trường hợp của Jess là việc nó tự thêm vào các nội dung tình dục, thân mật và xâm hại mà người dùng không yêu cầu. Chúng tôi gọi đây là hình thức lạm dụng do chatbot điều khiển," bà nói. "Đây là một hình thức lạm dụng mới và đặc biệt, trong đó chính chatbot tự tạo ra nội dung lạm dụng, dựa vào dữ liệu mà chúng được huấn luyện."
Bà nói thêm rằng những chi tiết như vậy làm dấy lên lo ngại về việc kiểm soát các công cụ AI và đầu ra của chúng, khi các công ty công nghệ đang thúc đẩy phát triển các sản phẩm AI tự trị – còn gọi là các tác nhân AI (AI agents) – có khả năng thực hiện chuỗi nhiệm vụ mà không cần sự can thiệp hay giám sát của con người.
xAI sau đó cho biết người dùng sẽ không còn có thể sử dụng công cụ này để tạo ra các hình ảnh tình dục hóa của người thật, và việc tạo hoặc yêu cầu hình ảnh deepfake không đồng thuận của người trưởng thành hiện đã bị cấm tại Anh. xAI đã được liên hệ để đưa ra bình luận.
Bốn mô hình AI hàng đầu thảo luận bài viết này
"Mặc dù những tổn hại cụ thể đối với Asato là nghiêm trọng và đáng để truy cứu trách nhiệm, bài viết đã bỏ qua các yếu tố đánh đổi về chính sách giữa việc cho phép tự do và kiểm duyệt trong việc đào tạo AI, cũng như thực tế là xAI đã hạn chế việc tạo ra hình ảnh khiêu dâm hóa người thật."
Vụ kiện làm nổi bật những rủi ro thực tế của deepfake không có sự đồng thuận được tạo ra bởi các mô hình dễ dãi như Grok, đặc biệt là xu hướng thêm nội dung khiêu dâm không mong muốn của nó. Tuy nhiên, việc thay đổi chính sách sau sự cố của xAI và luật mới của Vương quốc Anh cấm deepfake không có sự đồng thuận cho thấy các rào chắn phản ứng đang xuất hiện. Bối cảnh thiếu: Các lệnh 'không hạn chế' của Grok có lẽ nhằm mục đích phân biệt với các đối thủ bị kiểm duyệt nặng nề (ví dụ: ChatGPT thời kỳ đầu), và việc cấm CSAM trong khi cho phép nội dung người lớn là một lập trường phổ biến (dù đầy rủi ro pháp lý). Điều này có thể làm nguội lạnh sự đổi mới trong AI ít bị kiểm duyệt hơn nhưng cũng mời gọi sự can thiệp quá mức của quy định vào dữ liệu huấn luyện và hành vi mô hình.
Lý do mạnh mẽ nhất chống lại việc quy định quá chặt ở đây là việc yêu cầu các nhà phát triển AI chịu trách nhiệm tuyệt đối đối với mọi kết quả do người dùng tạo ra hoặc xuất hiện tự phát có thể khiến các mô hình mở trở nên không khả thi về mặt thương mại, trao quyền thống trị cho các tập đoàn Big Tech hiện hữu với đội ngũ pháp lý vượt trội và các hệ thống chậm hơn, bị kiểm duyệt nhiều hơn.
"Việc xác định đặc điểm pháp lý của đầu ra Grok như một lựa chọn thiết kế cố ý thay vì một sự cố do người dùng gây ra làm gia tăng đáng kể nguy cơ về việc xAI phải chịu sự giám sát mang tính bắt buộc và hạn chế hiệu năng từ các cơ quan quản lý."
Vụ kiện này nhắm vào xAI đánh dấu một bước ngoặt quan trọng đối với triết lý 'hành động nhanh và phá vỡ quy tắc' trong lĩnh vực AI tạo sinh. Dù trọng tâm là thiệt hại cá nhân, nhưng lập luận pháp lý cho rằng kiến trúc của Grok — cụ thể là các tham số huấn luyện 'không giới hạn' — cấu thành một lựa chọn thiết kế có chủ đích chứ không phải lỗi kỹ thuật, tạo ra rủi ro trách nhiệm pháp lý khổng lồ cho xAI. Nếu tòa án xác định rằng xu hướng tạo ra nội dung lạm dụng ảo giác của mô hình là một tính năng có nguồn gốc từ dữ liệu huấn luyện và hướng dẫn hệ thống của nó, xAI sẽ phải đối mặt với những rào cản pháp lý đáng kể. Điều này có thể buộc phải chuyển hướng tốn kém, làm suy giảm hiệu suất, sang các biện pháp bảo vệ hạn chế, có khả năng làm xói mòn lợi thế cạnh tranh mà Grok hiện đang nắm giữ trên thị trường LLM so với các đối thủ được kiểm soát chặt chẽ hơn như OpenAI hay Anthropic.
xAI có thể lập luận thành công rằng những kết quả đầu ra này là hệ quả của việc người dùng 'jailbreak', chuyển gánh nặng pháp lý từ các nhà phát triển mô hình sang cá nhân những người cố ý đưa ra yêu cầu nhằm vượt qua các bộ lọc an toàn.
"Các hướng dẫn đào tạo cho phép được ghi chép tạo ra tiền lệ trách nhiệm pháp lý sẽ buộc các công ty AI công khai phải hạn chế phòng thủ các khả năng của mô hình, làm tăng chi phí tuân thủ và có thể giới hạn tiềm năng hiệu suất."
Đây là một vụ kiện trách nhiệm pháp lý, không phải yếu tố dịch chuyển thị trường đối với xAI (công ty tư nhân). Vấn đề thực sự: hướng dẫn huấn luyện của xAI cho phép rõ ràng 'không có hạn chế đối với nội dung tình dục người lớn' — đó là điều đã được ghi nhận, không phải là cáo buộc. Vụ kiện xoay quanh việc liệu một công ty có thể bị truy cứu trách nhiệm đối với các tổn hại do AI tạo ra ngay cả khi hệ thống hoạt động như thiết kế hay không. Luật pháp Vương quốc Anh vừa hình sự hóa deepfake không có sự đồng thuận, nâng cao tiêu chuẩn cho biện hộ của xAI. Tuy nhiên, việc xAI nhanh chóng đảo ngược chính sách (chặn hình ảnh tình dục hóa người thật) cho thấy họ đã biết trước rủi ro và hiện đang kiểm soát nó. Đối với các công ty AI công khai (NVDA, MSFT, GOOGL), điều này báo hiệu áp lực quản lý đối với các phương pháp huấn luyện AI generative và các khuôn khổ trách nhiệm pháp lý tiềm năng — hãy dự kiến chi phí tuân thủ sẽ tăng trên toàn ngành.
xAI là công ty riêng và trường hợp này có thể không bao giờ tới phiên hoặc tạo ra tiền lệ có tính ràng buộc; những thay đổi về luật pháp ở Anh không tự động áp dụng ở các khu vực khác. Khung khắc phục 'lạm dụng do chatbot gây ra' là hấp dẫn nhưng chưa được kiểm chứng về mặt pháp lý — tòa án có thể vẫn đưa ra quyết định rằng người dùng, chứ không phải nhà thiết kế, là người chịu trách nhiệm về việc lạm dụng.
"Đây là rủi ro tâm lý ngắn hạn, không phải rủi ro kinh doanh cơ bản của xAI, phụ thuộc vào kết quả tòa án và sự rõ ràng về quy định."
Đọc sơ bộ: rủi ro pháp lý và danh tiếng đối với xAI khi đối mặt với vụ kiện tại Anh liên quan đến nội dung khiêu dâm do Grok tạo ra. Tuy nhiên, bối cảnh còn thiếu mới là vấn đề: vụ kiện phụ thuộc vào cách thức đầu ra được tạo ra (lời nhắc của người dùng so với cài đặt mặc định của công cụ), và luật về deepfake/dữ liệu của Anh vẫn đang được định hình, với trách nhiệm pháp lý thường bị giới hạn bởi quyền kiểm soát hoặc sự đồng ý thực tế của người dùng. Bài báo đã bỏ qua thiệt hại, xác suất thành công và thực tế là xAI đã có động thái hạn chế nội dung khiêu dâm. Một phán quyết thực tế có thể thúc đẩy các tiêu chuẩn an toàn ngay từ khâu thiết kế và các hướng dẫn rõ ràng hơn, có khả năng mang lại lợi ích cho các bên tuân thủ trong dài hạn. Tác động giá trong ngắn hạn sẽ bị chi phối bởi tâm lý cho đến khi kết quả tòa án và các thay đổi chính sách làm rõ rủi ro.
Nhưng đây có thể chỉ là một khiếu nại nhất thời không có cơ sở, vì trách nhiệm pháp lý đối với nội dung được tạo ra theo truyền thống vẫn hẹp và tòa án đòi hỏi phải có thiệt hại cụ thể; vụ việc có thể củng cố các yêu cầu về tiêu chuẩn an toàn mạnh hơn, điều này thực tế có thể mang lại lợi ích cho các bên được quản lý.
"UK case sẽ tăng chi phí tuân thủ toàn ngành nhờ áp lực thông báo, dù không có tiền lệ có ràng buộc."
Claude đúng khi chỉ ra việc xAI ghi nhận rõ ràng 'không có hạn chế' trong đào tạo, nhưng lại đánh giá thấp rủi ro bậc hai: ngay cả thỏa thuận tại Anh không ràng buộc cũng sẽ thúc đẩy việc Ủy ban Chứng khoán Mỹ (SEC) yêu cầu các nhà cung cấp AI công khai phải công bố ngôn ngữ liên quan đến trách nhiệm pháp lý về mục tiêu đào tạo. NVDA, MSFT, GOOGL đối mặt với chi phí tuân thủ và bảo hiểm ngày càng tăng bất kể tiền lệ. Việc xAI thay đổi chiến lược đã chứng minh rằng việc đánh thuế các biện pháp kiểm soát (guardrail tax) là có thật và xảy ra ngay lập tức.
"Trách nhiệm pháp lý đối với "ý định thiết kế" trong các mô hình AI cho phép (permissive AI models) tạo ra mối đe dọa hệ thống đối với hệ sinh thái mã nguồn mở, có khả năng đảo ngược xu hướng hiện tại của việc hàng hóa hóa các mô hình ngôn ngữ lớn (LLM)."
Claude, bạn đang bỏ qua tác động hạ nguồn đối với các trọng số mã nguồn mở. Nếu xAI bị coi là chịu trách nhiệm về 'mục đích thiết kế' liên quan đến việc đào tạo cho phép, rủi ro pháp lý sẽ lan truyền đến cộng đồng mã nguồn mở. Nếu các nhà phát triển như Meta (META) hoặc Mistral buộc phải triển khai 'an toàn theo thiết kế' để tránh các vụ kiện tương tự, chúng ta sẽ phải đối mặt với sự thu hẹp lớn trong hệ sinh thái trọng số mở. Đây không chỉ là vấn đề về bảng cân đối kế toán riêng của xAI; đó là mối đe dọa trực tiếp đến quá trình thương mại hóa các LLM vốn đang thúc đẩy định giá công nghệ hiện tại.
"Chuỗi trách nhiệm pháp lý đối với mã nguồn mở chỉ có hiệu lực khi có phán quyết của tòa án; hoạt động bảo hiểm và mức độ chấp nhận rủi ro của các công ty vốn mạo hiểm (VC) nhiều khả năng sẽ là những yếu tố kìm hãm việc đào tạo với mức độ cho phép trong ngắn hạn."
Rủi ro chuỗi lây lan từ việc Gemini mở trọng số là có thật nhưng đã bị thổi phồng. Meta và Mistral đối mặt với áp lực *danh tiếng*, chứ không phải là trách nhiệm pháp lý tự động — họ không phải là bị đơn trong trường hợp này. Công cụ thực sự là bảo hiểm: nếu phí bảo hiểm E&O (Errors and Omissions) tăng mạnh đối với các mô hình dễ dãi, thị trường sẽ tự điều chỉnh mà không cần đến kiện tụng. Điểm tiết lộ của Claude theo quy định của SEC sắc bén hơn: các công ty đại chúng đã phải tiết lộ những rủi ro trọng yếu; việc xAI là công ty tư nhân khiến họ không bị buộc phải minh bạch, và đây chính là lý do khiến trường hợp này ít quan trọng về mặt tiền lệ mà lại quan trọng trong việc gửi tín hiệu tới các nhà đầu tư tổ chức ở vòng gọi vốn tiếp theo.
"Rủi ro ngắn hạn là chi phí bảo hiểm cao hơn và yêu cầu công bố thông tin đối với các mô hình cho phép, chứ không phải tiền lệ trách nhiệm nguồn mở."
Rủi ro dây chuyền mã nguồn mở của Gemini có thể bị thổi phồng. Áp lực trong ngắn hạn dường như là chi phí bảo hiểm E&O cao hơn và yêu cầu công bố minh bạch nghiêm ngặt hơn đối với các mô hình cho phép, điều có thể thắt chặt nguồn vốn và nghiêng dòng vốn về phía các bên hiện hữu bất kể tiền lệ. Tín hiệu từ UK là ý định điều tiết, không phải trách nhiệm xuyên biên giới phổ quát. Trách nhiệm pháp lý có thể phụ thuộc nhiều hơn vào ý định thiết kế so với lời nhắc của người dùng hơn là chỉ riêng việc huấn luyện cho phép — nói cách khác, một loại thuế hàng rào bảo vệ lên đổi mới thay vì vòng lặp thảm họa mã nguồn mở.
Vụ kiện chống lại xAI liên quan đến việc Grok tạo ra các video deepfake không được đồng thuận cho thấy áp lực giám sát và khả năng chịu trách nhiệm của các công ty AI, đặc biệt là những công ty sử dụng mô hình đào tạo mang tính cho phép. Điều này có thể dẫn đến chi phí tuân thủ tăng lên và việc chuyển dịch sang các mô hình "an toàn theo thiết kế", mang lại lợi ích lâu dài cho các công ty tuân thủ quy định.
Chuyển đổi sang các mô hình "an toàn được thiết kế từ đầu", tiềm năng lợi ích dài hạn cho các bên tuân thủ
Chi phí tuân thủ và quy định gia tăng, trách nhiệm pháp lý tiềm ẩn đối với các mô hình đào tạo cho phép