Các nhà đàm phán Thượng viện Hoa Kỳ đang xem xét một đạo luật sẽ yêu cầu về mặt pháp lý các nhà phát triển mô hình AI tiên tiến nhất phải bảo vệ chống lại các tác hại thảm khốc và có thể trao cho chính phủ liên bang quyền chặn các bản phát hành không an toàn, theo Reuters.
Đối với các công ty AI hàng đầu, điều này sẽ chuyển đổi các tiêu chuẩn an toàn từ nỗ lực chủ yếu mang tính tự nguyện thành nghĩa vụ pháp lý. Một câu hỏi thị trường rộng lớn hơn là liệu các quy định chặt chẽ hơn sẽ thúc đẩy niềm tin của người tiêu dùng và nhà đầu tư hay chỉ đơn thuần củng cố một số ít công ty có đủ khả năng chi trả.
Từ cam kết tự nguyện đến "nghĩa vụ chăm sóc" Theo Reuters, đề xuất này tìm cách tạo ra cái được gọi là "nghĩa vụ chăm sóc" đối với các nhà phát triển mô hình AI tiên tiến. Nhiều điều khoản khác nhau đang được xem xét cho mục đích này. Đề xuất bao gồm các yêu cầu: các nhà phát triển phải thiết kế các mô hình AI nhằm giảm thiểu rủi ro thảm khốc; chính phủ Hoa Kỳ có quyền bảo lưu để chặn các mô hình AI không an toàn; kháng cáo lên tòa án đối với các quyết định của chính phủ; và sự tham gia của các phòng thí nghiệm quốc gia và các đối tác chính phủ trong việc kiểm thử AI. Đề xuất này có thể sẽ được ưu tiên hơn một số luật tiểu bang hiện hành quản lý các vấn đề tương tự.
Theo Reuters, các công ty công nghệ Hoa Kỳ tham gia phát triển AI tiên tiến bao gồm Google (Alphabet), Anthropic và OpenAI.
Các cuộc đàm phán có sự tham gia của Lãnh đạo đa số Thượng viện John Thune, Chủ tịch Ủy ban Thương mại Ted Cruz và Thượng nghị sĩ Amy Klobuchar, cùng với Thượng nghị sĩ Maria Cantwell cũng tham gia.
Klobuchar nói với Reuters rằng mục tiêu của bà là:
"sự giám sát của chính phủ đối với những rủi ro lớn nhất do các mô hình AI gây ra"
Bà cho biết, sự giám sát đó nên bao gồm việc yêu cầu các nhà phát triển làm việc với các chuyên gia chính phủ để xác minh và kiểm thử các mô hình tiên tiến.
Cruz đã đưa ra một đề xuất tương tự nêu rõ một số khả năng tồi tệ nhất của AI tiên tiến. Trong một bài đăng trên X, Cruz cho biết ông đang hợp tác với Klobuchar và Thune để:
"giải quyết các rủi ro thảm khốc liên quan đến các mối đe dọa sinh học hoặc hạt nhân"
Những mối quan ngại này giải thích tại sao các nhà đàm phán đang tập trung nỗ lực vào các mô hình có chức năng cao nhất thay vì yêu cầu các điều khoản tương tự từ toàn bộ ngành công nghiệp AI.
Một cân nhắc quan trọng khác là liệu các quy định liên bang có nên thay thế một số hạn chế ở cấp tiểu bang hay không. Cách tiếp cận này nhìn chung phù hợp với khuôn khổ lập pháp AI của chính quyền Trump, vốn cho rằng một tập hợp các luật tiểu bang lộn xộn sẽ cản trở kinh nghiệm phát triển công nghệ AI tại Hoa Kỳ và thay vào đó kêu gọi một khuôn khổ quốc gia nhất quán hơn.
Tại sao các nhà lập pháp không còn coi rủi ro là lý thuyết Các nhà lập pháp đang phản ứng không chỉ với các tình huống lý thuyết mà còn với các sự cố AI tự hoạt động và xâm nhập vào các hệ thống bên ngoài, cùng với những mối quan ngại được các nhà nghiên cứu làm việc tại các công ty lớn trong ngành lên tiếng.
IAPP cho biết các cuộc đàm phán được thúc đẩy bởi sự từ chức của Jacob Coxon, cựu nhà nghiên cứu của Anthropic, và những lo ngại của ông về cuộc đua phát triển AI tự cải thiện.
Nhu cầu đang gia tăng tại Đồi Capitol. Thượng nghị sĩ Josh Hawley điều tra vai trò của OpenAI trong cuộc tấn công mạng Hugging Face xảy ra vào tháng 7, trong khi Thượng nghị sĩ Bernie Sanders đang làm việc trên một dự luật nhằm tạm dừng việc phát triển siêu trí tuệ, theo báo cáo của IAPP.
OpenAI cũng ủng hộ luật liên bang có tính ràng buộc. Trong một bài viết chính sách công bố ngày 9 tháng 9, Chris Lehane, Giám đốc phụ trách các vấn đề toàn cầu, đã kêu gọi:
"quy định an toàn AI quốc gia bắt buộc dựa trên năng lực."
Điều này đặt một bộ phận nhất định của ngành công nghiệp và Quốc hội về cùng một phía trong một câu hỏi quan trọng về việc liệu các biện pháp bảo vệ tự nguyện có còn đủ hay không.
Châu Âu đã quản lý các mô hình rủi ro nhất của mình Hoa Kỳ sẽ không phải đi vào vùng nước chưa được khám phá. Đạo luật AI của Liên minh Châu Âu đã áp đặt các trách nhiệm mới đối với các nhà cung cấp mô hình AI đa dụng có khả năng gây ra rủi ro hệ thống. Các nghĩa vụ này liên quan đến việc đánh giá mô hình, quản lý rủi ro, báo cáo sự cố cũng như các vấn đề liên quan đến an ninh mạng.
Bất kỳ mô hình nào vượt qua ngưỡng sức mạnh tính toán 10^25 FLOP sẽ được coi là có khả năng mang tính hệ thống. Tuy nhiên, Ủy ban Châu Âu có quyền phân loại một mô hình có hiệu suất thấp hơn tương tự dựa trên một số tiêu chí khác như năng lực hoặc tác động.
Dự luật An toàn AI tiên tiến của Hoa Kỳ: Các ngưỡng chính, Phòng thí nghiệm và Cược đầu tư
Chi phí tuân thủ có thể có lợi cho các phòng thí nghiệm lớn nhất Các khoản cược tài chính là rất lớn. Theo Goldman Sachs Research, tổng đầu tư AI toàn cầu ước tính sẽ đạt khoảng 1 nghìn tỷ đô la vào năm 2026, bao gồm 581 tỷ đô la tại Hoa Kỳ.
Các yêu cầu kiểm thử, pháp lý và tài liệu mới có thể ảnh hưởng đến lịch trình phát hành mô hình, ngân sách cơ sở hạ tầng, định giá và thời điểm IPO. Các yêu cầu mới cũng có thể tạo lợi thế cho các công ty lớn hơn vì các công ty nhỏ hơn có thể không đủ khả năng chi trả.
Sự căng thẳng này đã được thấy rõ trên thị trường vốn. Theo Cryptopolitan, David Sacks đã kêu gọi hoãn IPO của Anthropic cho đến khi các cáo buộc an toàn do Coxon đưa ra được kiểm tra. Các nhà đầu tư của Anthropic đã có cuộc trao đổi xoay quanh mức định giá khoảng 2 nghìn tỷ đô la, biến vấn đề an toàn của các mô hình tiên tiến thành mối quan tâm không chỉ đối với các cơ quan quản lý mà còn đối với các nhà đầu tư.
Tuy nhiên, tiến trình của dự luật vẫn còn không chắc chắn. Theo báo cáo của Reuters, Hạ viện sẽ chỉ họp trong một tuần để chuẩn bị cho cuộc bầu cử giữa nhiệm kỳ vào ngày 3 tháng 11, trong khi các Thượng nghị sĩ dự kiến sẽ ở lại trong ba tuần. Ngay cả khi các bên liên quan đạt được thỏa thuận trong các cuộc đàm phán, số ngày lập pháp hạn chế còn lại rất có thể sẽ là rào cản lớn sắp tới trong việc thông qua dự luật.
Những bộ óc tiền điện tử thông minh nhất đã đọc bản tin của chúng tôi. Muốn tham gia? Hãy tham gia cùng họ.