Elon Musk và một nhóm các chuyên gia trí tuệ nhân tạo và giám đốc điều hành ngành đang kêu gọi tạm dừng sáu tháng trong việc phát triển các hệ thống mạnh hơn GPT-4 mới ra mắt của OpenAI, trong một bức thư ngỏ viện dẫn những rủi ro tiềm ẩn cho xã hội .
Đầu tháng này, OpenAI do Microsoft hậu thuẫn đã tiết lộ phiên bản thứ tư của chương trình AI GPT (Generative Pre-training Transformer), khiến người dùng kinh ngạc khi lôi cuốn họ vào cuộc trò chuyện giống như con người, sáng tác bài hát và tóm tắt các tài liệu dài.
“Các hệ thống AI mạnh mẽ chỉ nên được phát triển khi chúng tôi tin tưởng rằng tác động của chúng sẽ tích cực và rủi ro của chúng sẽ có thể kiểm soát được”, bức thư do Viện Tương lai của Cuộc sống cho biết.
Tổ chức phi lợi nhuận này chủ yếu được tài trợ bởi Quỹ Musk, cũng như Nhóm Founders Pledge có trụ sở tại London và Quỹ Cộng đồng Thung lũng Silicon, theo sổ đăng ký minh bạch của Liên minh Châu Âu .
“AI làm tôi căng thẳng,” Musk nói vào đầu tháng này. Anh ấy là một trong những người đồng sáng lập OpenAI dẫn đầu ngành và nhà sản xuất ô tô Tesla (TSLA.O) của anh ấy sử dụng AI cho hệ thống lái tự động.
Musk, người đã bày tỏ sự thất vọng trước việc các cơ quan quản lý chỉ trích nỗ lực điều chỉnh hệ thống lái tự động, đã tìm kiếm một cơ quan quản lý để đảm bảo rằng sự phát triển của AI phục vụ lợi ích công cộng.
James Grimmelmann, giáo sư luật thông tin và kỹ thuật số tại Đại học Cornell, cho biết: “Việc Elon Musk ký vào là … đạo đức giả sâu sắc khi Tesla đã đấu tranh gay gắt như thế nào để chống lại trách nhiệm giải trình đối với AI bị lỗi trong xe tự lái của mình”.
“Tạm dừng là một ý kiến hay, nhưng bức thư mơ hồ và không coi trọng các vấn đề về quy định.”
Tesla vào tháng trước đã phải thu hồi hơn 362.000 xe tại Mỹ để cập nhật phần mềm sau khi các cơ quan quản lý của Mỹ cho biết hệ thống hỗ trợ người lái có thể gây ra sự cố, khiến Musk phải tweet rằng từ “thu hồi” cho một bản cập nhật phần mềm qua mạng là “lỗi thời và chỉ hoàn toàn sai!”
“Chúng ta có nên để máy móc tràn ngập các kênh thông tin của mình bằng tuyên truyền và sai sự thật không?… Chúng ta có nên phát triển những bộ óc phi nhân loại để cuối cùng có thể trở nên đông hơn, thông minh hơn, lỗi thời và thay thế chúng ta không?” bức thư yêu cầu, nói rằng “không được giao những quyết định như vậy cho các nhà lãnh đạo công nghệ không được bầu chọn.”
Bức thư đã được ký bởi hơn 1.000 người bao gồm cả Musk. Sam Altman, giám đốc điều hành của OpenAI, không nằm trong số những người đã ký bức thư. Sundar Pichai và Satya Nadella, CEO của Alphabet và Microsoft, cũng không nằm trong số những người đã ký.
Những người đồng ký kết bao gồm Giám đốc điều hành AI của Ổn định Emad Mostaque, các nhà nghiên cứu tại DeepMind thuộc sở hữu của Alphabet và những đối thủ nặng ký về AI Yoshua Bengio, thường được gọi là một trong những “bố già của AI” và Stuart Russell, người tiên phong nghiên cứu trong lĩnh vực này.
Những lo ngại xuất hiện khi ChatGPT thu hút sự chú ý của các nhà lập pháp Hoa Kỳ với các câu hỏi về tác động của nó đối với an ninh quốc gia và giáo dục. Lực lượng cảnh sát EU Europol đã cảnh báo vào thứ Hai về khả năng lạm dụng hệ thống trong các nỗ lực lừa đảo, thông tin sai lệch và tội phạm mạng.
Trong khi đó, chính phủ Vương quốc Anh đã công bố các đề xuất về khung pháp lý “thích ứng” xung quanh AI.
Gary Marcus, giáo sư tại Đại học New York, người đã ký bức thư, cho biết: “Bức thư không hoàn hảo, nhưng tinh thần là đúng: chúng ta cần chậm lại cho đến khi hiểu rõ hơn về sự phân nhánh”.
“Những người chơi lớn đang ngày càng trở nên bí mật về những gì họ đang làm, điều này khiến xã hội khó có thể chống lại bất kỳ tác hại nào có thể xảy ra.”
Kể từ khi được phát hành vào năm ngoái, ChatGPT của OpenAI đã thúc đẩy các đối thủ tăng tốc phát triển các mô hình ngôn ngữ lớn tương tự và các công ty bao gồm Alphabet Inc (GOOGL.O) đang chạy đua để đưa các sản phẩm của họ vào AI.
Các nhà đầu tư, cảnh giác với việc dựa vào một công ty duy nhất, đang theo đuổi các đối thủ cạnh tranh với OpenAI.
Suresh Venkatasubramanian, giáo sư tại Đại học Brown và là cựu trợ lý giám đốc tại Văn phòng Khoa học và Công nghệ của Nhà Trắng cho biết: “Rất nhiều quyền lực để phát triển các hệ thống này đã liên tục nằm trong tay của một số công ty có đủ nguồn lực để làm điều đó”. Chính sách.
“Các mô hình này là như vậy, chúng khó xây dựng và khó dân chủ hóa.”
