NHÂN LOẠI CÓ ĐANG PHẢI ĐỐI MẶT VỚI “THẢM HỌA AI”?

Trong khi những gã khổng lồ công nghệ như Microsoft và Google đang “cắn xé” nhau để tranh giành miếng bánh mang tên “trí tuệ nhân tạo”, thì việc củng cố sự an toàn của nó dần bị lãng quên. 

Satya Nadella, Giám đốc điều hành của Microsoft, chia sẻ tại sự kiện ra mắt ChatGPT của công ty: “ Cuộc đua chính thức bắt đầu từ hôm nay, và chúng tôi sẽ tiến bước một cách nhanh nhất có thể” (“The race starts today, and we’re going to move and move fast,”). 

Từ “cuộc đua”(race) đã và đang được sử dụng rất nhiều trong “thế giới AI”. Google và Baidu đang chạy đua với OpenAI và ChatGPT của Microsoft để giành ngôi vương ngành “công cụ tìm kiếm”, trong khi Meta cũng đang nỗ lực để không bị bỏ lại phía sau. 

Công nghệ là lĩnh vực cạnh tranh rất khốc liệt, nơi mà “kẻ thắng làm vua, kẻ thua làm giặc”. Giờ đây, với sự tiến bộ của trí tuệ nhân tạo, những công ty khác đang được trao cơ hội lật đổ kẻ dẫn đầu. Ví dụ, Google đã chiếm trọn 93% thị phần của ngành công cụ tìm kiếm; những tưởng thị trường của ngành này sẽ không thay đổi trong một thời gian dài, nhưng AI đã làm “cuộc đua” kịch tính và gay cấn hơn bao giờ hết. Các đối thủ như Microsoft và Baidu được trao cơ hội hiếm có để thay thế Google và trở thành gã khổng lồ tìm kiếm trên internet, bằng cách tạo ra công cụ áp dụng AI có giao diện thân thiện với người sử dụng. 

Một số người còn đưa ra những dự đoán xa hơn về tính ứng dụng của AI. Họ cho rằng có một cuộc “chạy đua vũ trang về trí tuệ nhân tạo” đang diễn ra giữa Mỹ và Trung Quốc. Trong đó cơn sốt ChatGPT là phát súng đầu tiên.          

Vì sao một số người không cảm thấy hào hứng khi chứng kiến “cuộc đua AI”? 

Đối với không ít bộ phận dân chúng, “cuộc đua vũ trang AI” giữa những gã khổng lồ công nghệ có thể mang lại những hậu quả tiêu cực đối với nền văn minh, chứ không chỉ đơn thuần là mở rộng thị phần.

“Khi nói đến những công nghệ rất mạnh mẽ — và rõ ràng là AI sẽ trở thành một trong những công nghệ mạnh mẽ nhất từ ​​​​trước đến nay — chúng ta cần phải cẩn thận,” Demis Hassabis, người sáng lập và lãnh đạo DeepMind nói với tạp chí Time. “Không phải ai cũng nghĩ về những điều đó. Nó giống việc các nhà thí nghiệm mù quáng không nhận ra họ đang nắm giữ những vật chất nguy hiểm”. 

“Đối với công nghệ quan trọng như AI, điều quan trọng là *KHÔNG* di chuyển quá nhanh và phá hủy mọi thứ. Anh ấy viết trên Twitter vào tháng 9. Tinh thần thông thường của Thung lũng Silicon — thử mọi thứ, xem chúng thất bại như thế nào, thử lại – đã mang đến cho chúng ta một số công nghệ tiêu dùng tuyệt vời và những trang web thú vị. Nhưng đó không phải là cách bạn xây dựng một tòa nhà chọc trời hay một tên lửa có người lái, và các hệ thống AI mạnh mẽ có vẻ như thuộc vào danh mục thứ hai, nơi bạn muốn có kỹ thuật tối tân với độ tin cậy cao.

ChatGPT của Open AI là sản phẩm đã châm ngòi cuộc đua tranh giành vị trí dẫn đầu trong lĩnh vực phát triển AI của Google, Baidu, và Microsoft, nhưng chính ban lãnh đạo của công ty khởi nghiệp đó cũng đã bày tỏ sự thất vọng về nơi mà nó đang đưa nhân loại đến. “Trường hợp xấu — và tôi nghĩ điều này rất quan trọng — đây là sự cảnh tỉnh cho tất cả chúng ta … Tôi nghĩ không thể chối bỏ tầm quan trọng của việc củng cố sự an toàn của AI và hướng nó tới mục đích chung của nhân loại. Tôi muốn thấy nhiều, nhiều hành động được thực hiện để giải quyết vấn đề này.” Giám đốc điều hành OpenAI, Sam Altman cho biết trong một cuộc phỏng vấn gần đây.

(Anh ấy cũng gọi phản ứng của Google đối với ChatGPT, tăng cường phát hành AI của riêng họ và “hiệu chỉnh lại” mối quan tâm của họ về sự an toàn, là một bước phát triển “đáng thất vọng”. “ Open AI sẽ liên tục giảm mức độ rủi ro của các mô hình mới khi nó phát triển mạnh hơn, không phải theo hướng ngược lại.”) 

Tại sao ta nên cố gắng tránh những cuộc đua phát triển AI?

Nhân loại sẽ rất dễ rơi vào “thảm họa AI” khi các nhà nghiên cứu cứ phát triển những cơ chế mạnh mẽ, bỏ ngoài tai mọi lời cảnh báo. Hiện tại, ta vẫn đang chăm chăm phát triển AI với một cách quản lý có thể phù hợp với AI ở thời sơ khai, nhưng khả năng cao sẽ thất bại với hệ thống AI tinh vi, có khả năng đánh lừa cả chủ nhân của nó. 

Hãy tưởng tượng, bạn luôn có thể phát hiện khi một đứa trẻ 3 tuổi nói dối mình, nên cách bạn làm để ngăn nó thực hiện hành vi sai trái chỉ là hỏi nó có đang làm gì sai trái hay không. Điều này có hiệu quả, nhưng tưởng tượng bạn làm như thế với một đứa nhóc tuổi teen mà xem. Khả năng cao bạn sẽ bị nói dối. 

Nói chung, hầu hết các nhà nghiên cứu đều không phải là người bất cần và muốn hủy hoại thế giới. Nếu phòng thí nghiệm của họ đang xây dựng AI, và họ bắt đầu nhận thấy những dấu hiệu đáng sợ của AI về sự lệch hướng, hành vi lừa đảo, khả năng lập kế hoạch tinh vi, v.v., họ sẽ hoảng hốt và sẽ dừng lại! Ngay cả những nhà nghiên cứu không tin sự chệch hướng (misalignment) của AI là một vấn đề nghiêm trọng, cũng sẽ muốn khắc phục nếu họ nhận thấy nó trong hệ thống AI của mình. 

Tại sao sự cạnh tranh là một điều tuyệt vời – nhưng cũng đầy hiểm nguy? 

Tuy nhiên, những điều kể trên chỉ đúng trong bối cảnh  phòng thí nghiệm. Trong một cuộc đua kinh tế nơi mà sự tồn vong của tổ chức được đặt lên bàn cân, các công ty hẳn chỉ chăm chăm nghĩ về cách họ có thể khai thác những khía cạnh mới của AI trước đối thủ của họ. Chậm lại để kiểm tra độ an toàn cũng đồng nghĩa với việc họ có thể bị đối thủ vượt mặt. 

Đặt cuộc đua AI trên phông nền địa chính trị, nỗi sợ rằng Trung Quốc sẽ vượt mặt họ và tạo ra những loại vũ khí nguy hiểm có khả năng sẽ khiến Mỹ sử dụng những hệ thống AI chưa qua kiểm định chặt chẽ. 

Kể cả khi việc điều hướng AI là vấn đề có thể giải quyết được, cố gắng thực hiện những công việc kĩ thuật phức tạp trên một hệ thống mạnh mẽ, trong khi mọi người vẫn đang mải mê chạy đuổi đối thủ của mình, là công thức cho sự thất bại. 

Một số người đang làm việc trong lĩnh vực Trí tuệ nhân tạo tổng hợp (Artificial general intelligence) đã lên kế hoạch để tránh cái bẫy nguy hiểm này. Ví dụ, OpenAI có các điều khoản trong điều lệ của mình nhằm ngăn chặn cuộc chạy đua AI một khi các hệ thống đủ mạnh: “Chúng tôi lo ngại rằng phát triển trí tuệ nhân tạo tổng hợp sẽ trở thành một cuộc cạnh tranh bỏ qua yếu tố an toàn. Do đó, nếu có một dự án tốt hơn chúng tôi, cùng hệ giá trị với chúng tôi, và cũng quan tâm đến yếu tố an toàn xuất hiện; chúng tôi sẵn sàng dừng dự án của mình và hỗ trợ họ phát triển. Chúng tôi sẽ thảo luận chi tiết hơn với họ trong hợp đồng, nhưng một trong những điều kiện tiên quyết sẽ là “ cơ hội thành công cao chót vót trong hai năm tới”. 

Tôi vẫn khá lạc quan về bản chất con người. Không ai muốn chủ động phát triển một hệ thống sẽ giết hết tất cả chúng ta. Vì vậy, nếu chúng ta cung cấp  góc nhìn tốt hơn về vấn đề điều hướng AI, thì các kỹ sư rồi sẽ nhận ra họ cần tìm một giải pháp. Nhưng những tuyên bố hùng hồn rằng cuộc đua AI đang diễn ra khiến tôi rất lo lắng. 

Một điều tuyệt vời khác về bản chất con người là chúng ta rất cạnh tranh – và trong khi sự cạnh tranh có thể dẫn đến những tiến bộ vượt bậc, nó cũng có thể dẫn đến sự hủy diệt kinh hoàng. Chiến tranh Lạnh đã thúc đẩy công cuộc chinh phục vũ trụ, nhưng cũng chính Thế chiến thứ hai đã thúc đẩy việc chế tạo bom nguyên tử. Nếu “cạnh tranh và kẻ thắng được tất” là thái độ mà nhân loại thể hiện đối với một trong những dạng công nghệ quyền năng nhất lịch sử, thì tôi rất quan ngại về sự tồn vong của chúng ta. 

Nguồn: Vox.com