Chính phủ California Newsom quyết định phủ quyết dự luật SB 1047 ngăn chặn thảm họa AI: Tác động lớn đến giới công nghệ

Chính phủ California Newsom quyết định phủ quyết dự luật SB 1047 ngăn chặn thảm họa AI: Tác động lớn đến giới công nghệ

Thống đốc California Gavin Newsom đã phủ quyết dự luật SB 1047, một dự luật nhằm ngăn chặn việc sử dụng trí tuệ nhân tạo (AI) bởi những kẻ xấu để gây ra “tác hại nghiêm trọng” cho con người. Dù Quốc hội bang California đã thông qua luật này với tỷ số áp đảo 41-9 vào ngày 28 tháng 8, nhiều tổ chức, trong đó có Phòng Thương mại California, đã tích cực vận động Thống đốc Newsom phủ quyết. Trong thông điệp phủ quyết được công bố ngày 29 tháng 9, ông Newsom đã nêu rõ những lo ngại của mình.

Theo thông điệp của Thống đốc, dự luật SB 1047, dù có mục đích tốt đẹp, lại đặt ra những thách thức thực tiễn đáng kể. Ông Newsom bày tỏ quan ngại về tính mơ hồ của định nghĩa “tác hại nghiêm trọng” trong dự luật, lo sợ điều này có thể dẫn đến việc áp dụng luật quá rộng, gây cản trở đáng kể đến sự đổi mới và phát triển công nghệ AI tại California. Việc thiếu định nghĩa rõ ràng về phạm vi áp dụng cũng có thể gây khó khăn cho các cơ quan thực thi pháp luật trong việc áp dụng và giải thích luật một cách công bằng và hiệu quả.

Ngoài ra, Thống đốc cũng chỉ ra rằng dự luật SB 1047 có thể gây ra những tác động tiêu cực không lường trước đến ngành công nghiệp công nghệ tại California, vốn là một động lực kinh tế quan trọng của bang. Ông nhấn mạnh sự cần thiết phải cân bằng giữa việc bảo vệ công dân khỏi rủi ro tiềm tàng của AI và việc thúc đẩy đổi mới công nghệ một cách có trách nhiệm. Thay vì thông qua một luật mang tính hạn chế như SB 1047, Thống đốc Newsom ủng hộ việc tiếp tục nghiên cứu, đối thoại và hợp tác giữa chính phủ, các nhà nghiên cứu và ngành công nghiệp để phát triển các giải pháp toàn diện và hiệu quả hơn trong việc quản lý rủi ro liên quan đến AI.

Quyết định phủ quyết này của Thống đốc Newsom đã gây ra phản ứng trái chiều. Trong khi một số người hoan nghênh quyết định này vì cho rằng nó bảo vệ sự đổi mới và cạnh tranh, thì nhiều người khác lại chỉ trích, cho rằng nó bỏ qua những mối đe dọa nghiêm trọng mà AI có thể gây ra. Sự kiện này nhấn mạnh sự phức tạp và tính cấp thiết của việc lập pháp liên quan đến AI, đòi hỏi sự cân nhắc kỹ lưỡng và tham vấn rộng rãi để đạt được sự cân bằng giữa đổi mới và an toàn.

#AI #California #SB1047 #Newsom #CôngNghệ #TríTuệNhânTạo #PhápLuật #ĐổiMớiCôngNghệ #AnToànCôngNghệ #ThốngĐốcCalifornia

Thống đốc California Gavin Newsom đã phủ quyết dự luật SB 1047, nhằm ngăn chặn những kẻ xấu sử dụng AI để gây ra “tác hại nghiêm trọng” cho con người. Quốc hội bang California đã thông qua luật với tỷ số 41-9 vào ngày 28 tháng 8, nhưng một số tổ chức bao gồm Phòng Thương mại đã kêu gọi Newsom phủ quyết dự luật. Trong của anh ấy tin nhắn phủ quyết vào ngày 29 tháng 9, Newsom cho biết dự luật này “có mục đích tốt” nhưng “không tính đến việc liệu hệ thống AI có được triển khai trong môi trường có rủi ro cao hay không, liên quan đến việc ra quyết định quan trọng hay sử dụng dữ liệu nhạy cảm. Thay vào đó, dự luật áp dụng các tiêu chuẩn nghiêm ngặt cho ngay cả những chức năng cơ bản nhất – miễn là một hệ thống lớn triển khai nó.”

SB 1047 sẽ buộc các nhà phát triển mô hình AI phải chịu trách nhiệm về việc áp dụng các giao thức an toàn nhằm ngăn chặn việc sử dụng công nghệ của họ một cách thảm khốc. Điều đó bao gồm các biện pháp phòng ngừa như thử nghiệm và đánh giá rủi ro bên ngoài, cũng như “dừng khẩn cấp” để tắt hoàn toàn mô hình AI. Lần vi phạm đầu tiên sẽ gây thiệt hại tối thiểu là 10 triệu USD và 30 triệu USD cho những lần vi phạm tiếp theo. Tuy nhiên, dự luật đã được sửa đổi để loại bỏ khả năng của tổng chưởng lý tiểu bang trong việc kiện các công ty AI có hành vi cẩu thả nếu một sự kiện thảm khốc không xảy ra. Các công ty sẽ chỉ phải chịu biện pháp khẩn cấp theo lệnh và có thể bị kiện nếu mô hình của họ gây ra tổn hại nghiêm trọng.

Luật này sẽ áp dụng cho các mô hình AI có chi phí sử dụng ít nhất 100 triệu USD và 10^26 FLOPS cho việc đào tạo. Nó cũng sẽ bao gồm các dự án phái sinh trong trường hợp bên thứ ba đã đầu tư 10 triệu USD trở lên để phát triển hoặc sửa đổi mô hình ban đầu. Bất kỳ công ty nào kinh doanh ở California sẽ phải tuân theo các quy định nếu đáp ứng các yêu cầu khác. Đề cập đến trọng tâm của dự luật đối với các hệ thống quy mô lớn, Newsom cho biết: “Tôi không tin đây là cách tiếp cận tốt nhất để bảo vệ công chúng khỏi các mối đe dọa thực sự do công nghệ gây ra”. Thông báo phủ quyết cho biết thêm:

Bằng cách chỉ tập trung vào các mô hình quy mô lớn và đắt tiền nhất, SB 1047 thiết lập một khung pháp lý có thể mang lại cho công chúng cảm giác an toàn sai lầm về việc kiểm soát công nghệ phát triển nhanh này. Các mô hình nhỏ hơn, chuyên biệt hơn có thể trở nên nguy hiểm ngang bằng hoặc thậm chí nguy hiểm hơn các mô hình được SB 1047 nhắm đến – với chi phí tiềm tàng là hạn chế chính sự đổi mới thúc đẩy sự tiến bộ có lợi cho lợi ích công cộng.

Phiên bản trước đó của SB 1047 lẽ ra đã thành lập một bộ phận mới gọi là Ban Mô hình Biên giới để giám sát và thực thi các quy tắc. Thay vào đó, dự luật đã được thay đổi trước cuộc bỏ phiếu của ủy ban để đặt quyền quản lý vào tay Ban Mô hình Biên giới trong Cơ quan Điều hành Chính phủ. Chín thành viên sẽ được bổ nhiệm bởi thống đốc bang và cơ quan lập pháp.

Dự luật phải đối mặt với một con đường phức tạp dẫn đến cuộc bỏ phiếu cuối cùng. SB 1047 được soạn thảo bởi Thượng nghị sĩ bang California Scott Wiener, người đã nói : “Chúng ta có lịch sử với công nghệ chờ đợi tác hại xảy ra rồi mới bó tay. Đừng chờ điều gì tồi tệ xảy ra. Hãy vượt lên trước.” Các nhà nghiên cứu AI đáng chú ý Geoffrey Hinton và Yoshua Bengio đã ủng hộ luật này, cũng như Trung tâm An toàn AI, nơi đã đưa ra cảnh báo về những rủi ro của AI trong năm qua.

“Hãy để tôi nói rõ – tôi đồng ý với tác giả – chúng ta không thể chờ đợi một thảm họa lớn xảy ra trước khi hành động để bảo vệ công chúng”, Newsom nói trong thông điệp phủ quyết. Tuyên bố tiếp tục:

California sẽ không từ bỏ trách nhiệm của mình. Các giao thức an toàn phải được thông qua. Cần triển khai các biện pháp bảo vệ chủ động và hậu quả nghiêm trọng đối với những kẻ xấu phải rõ ràng và có thể thi hành được. Tuy nhiên, tôi không đồng ý rằng để giữ an toàn cho công chúng, chúng ta phải giải quyết một giải pháp không dựa trên phân tích quỹ đạo thực nghiệm về các hệ thống và khả năng AI. Cuối cùng, bất kỳ khuôn khổ nào để điều chỉnh AI một cách hiệu quả đều cần phải theo kịp công nghệ.

SB 1047 đã thu hút sự phản đối mạnh mẽ từ khắp giới công nghệ. Nhà nghiên cứu Fei-Fei Li bị phê bình hóa đơn, như đã làm Nhà khoa học AI trưởng của Meta, Yann LeCun, vì đã hạn chế tiềm năng khám phá những ứng dụng mới của AI. Tập đoàn thương mại đại diện cho những gã khổng lồ công nghệ như Amazon, Apple và Google nói SB 1047 sẽ hạn chế những phát triển mới trong lĩnh vực công nghệ của bang. Công ty đầu tư mạo hiểm Andreeson Horowitz và một số công ty khởi nghiệp cũng đặt câu hỏi liệu dự luật có đặt gánh nặng tài chính không cần thiết lên các nhà đổi mới AI hay không. Anthrop và những người phản đối dự luật ban đầu đã thúc đẩy những sửa đổi được thông qua trong phiên bản SB 1047 đã được Ủy ban Phân bổ ngân sách của California thông qua vào ngày 15 tháng 8.