Nick Bostrom mở đầu cuốn sách bằng một câu chuyện ngụ ngôn dở dang, ẩn dụ sâu sắc cho mối quan hệ giữa con người và AI thông qua hình ảnh một đàn chim sẻ. Câu chuyện bắt đầu khi bầy chim sẻ nảy ra ý tưởng táo bạo: đi tìm một quả trứng cú mang về nuôi để nó phục vụ và bảo vệ đàn.
Trước viễn cảnh hấp dẫn đó, chú sẻ đực chột mắt luôn cáu kỉnh Scronkfinkle lập tức phản đối: “Đây là một việc làm ngu ngốc!” Gã liên tục rít lên về những lỗ hổng chết người trong cả kế hoạch thuần hóa con cú. Nhưng tất cả những gì gã có thể làm là bất lực nhìn cả đàn vội vã cất cánh bay đi tìm trứng cú.
Trong tổ, chỉ còn hai ba chú chim sẻ ở lại, cố gắng tìm cách luyện cú trong nỗi hoang mang tột cùng. Mọi chuyện trớ trêu và vô lý đến mức: chúng buộc phải tìm ra bằng được giải pháp thuần hóa, ngay cả khi chẳng có một con cú thực tế nào để thử nghiệm và tập luyện. Viễn cảnh ấy thật đáng sợ nếu đàn sẻ sẽ mang quả trứng về trước khi chúng kịp có trong tay biện pháp kiểm soát nào.
Ẩn dụ luyện cú đó đã được “thực tế hóa” bằng hình ảnh con cú trên bìa cuốn sách ở cả bản tiếng Anh lẫn tiếng Việt. Nó phản ánh chính xác tình thế của nhân loại hiện nay trước trí tuệ nhân tạo toàn năng (Artificial General Intelligence – AGI). Chúng ta đang dốc toàn lực cho cuộc đua tìm kiếm “quả trứng cú” công nghệ, nhưng lại bỏ quên bài toán sinh tồn về cách kiểm soát khi thực thể đó thực sự đạt đến trạng thái tự tiến hóa hoàn hảo.
Trước bối cảnh làn sóng AI đang chuyển dịch mạnh mẽ nhất trong khoảng 10 năm trở lại đây, Alpha Books phối hợp cùng NXB Thế giới trân trọng giới thiệu bạn đọc cuốn sách Siêu trí tuệ của triết gia, giáo sư nghiên cứu về rủi ro tại Đại học Oxford – Nick Bostrom. Tác phẩm được lựa chọn là một trong những cuốn sách hạt nhân thuộc tủ sách Công nghệ & Chuyển đổi số của Alpha Books.
Những cái bẫy rủi ro
Cuốn sách không hướng dẫn người đọc sử dụng các công cụ AI chuyên dụng (Narrow AI) mà đi sâu vào tìm hiểu bản chất của AI, nhìn nhận nó theo cả tiến trình phát triển, từ góc nhìn tổng quát. Người đọc sẽ nhập vai chú chim sẻ đực chột mắt Scronkfinkle, tuy khiếm khuyết nhưng chú lại nhìn thấy rất rõ những rủi ro mang tính hệ thống và chiến lược trong tương lai khi mang cú về tổ – điều mà cả đàn chim sẻ có vẻ đang cố tình nhắm mắt bỏ qua!
Chính sự cố tình bỏ lơ đó sẽ đẩy nhân loại bước thẳng vào cái bẫy rủi ro đầu tiên mang tên “Hiện thực hóa sai lệch” (Perverse Instantiation) ngay khi AI nhận mệnh lệnh. Bostrom chỉ ra rằng, hiểm họa lớn nhất từ AI không phải là sự độc ác hay lòng căm thù con người; ngược lại, nó nằm ở chỗ cỗ máy sẽ vận hành quá hiệu quả và logic một cách cực đoan để hoàn thành bằng được mục tiêu, nhưng kết quả trả về lại hoàn toàn lệch lạc và kinh hoàng so với mong muốn thực tế của con người. Có thể thấy điều này qua sự tối ưu hóa mà AI muốn hướng tới, nếu mọi đồ vật đều được quy về chiếc đinh thì AI sẽ khiến cả thế giới này đều trở thành đinh vít.
Chẳng hạn, nếu chúng ta trao cho Siêu trí tuệ nhiệm vụ: Hãy làm cho loài người hạnh phúc; cỗ máy có thể chọn cách nhanh nhất là cấy các điện cực vào trung tâm kích thích khoái cảm trong não bộ của chúng ta. Hoặc nếu ra lệnh: Hãy làm chúng tôi cười, nó có thể chọn giải pháp làm tê liệt toàn bộ hệ cơ mặt của loài người để biến tất cả thành những gương mặt cười hớn hở vĩnh viễn.
Bên cạnh các lỗ hổng về mặt mệnh lệnh, Nick Bostrom cũng phân tích sâu hai con đường dùng để phát triển siêu trí tuệ hiện nay:
- Trí tuệ nhân tạo (AI – Artificial Intelligence): Thiết kế máy móc bắt chước tư duy con người bằng các thuật toán phức tạp. Một trong những hướng đi tiềm năng nhất ở nhánh này là xây dựng một “cỗ máy trẻ con” (child machine) – hệ thống tự tiến hóa qua trải nghiệm. Điều này đang được minh chứng sống động qua dự án robot hình người Project GR00T trong môi trường giả lập gia tốc của NVIDIA, nơi robot tự học đi và trải qua hàng vạn giờ tiến hóa ảo nhưng thực tế chỉ trong vài giờ của Trái đất.
- Mô phỏng toàn bộ não bộ (WBE – Whole Brain Emulation): Con đường này không cần giải mã cách con người tư duy, mà trực tiếp dùng công nghệ để quét, sao chép và tái lập hoàn toàn cấu trúc vật lý cấu thành nên các neuron của bộ não người thật vào không gian số. Để dễ hình dung, hướng đi này chính là kịch bản trong bộ phim nổi tiếng Transcendence do tài tử Johnny Depp thủ vai chính: khi cơ thể sinh học chết đi, toàn bộ não bộ và ý thức của nhân vật được quét sạch rồi “tải” thẳng lên hệ thống siêu máy tính để tiếp tục sống và tư duy dưới dạng một ý thức kỹ thuật số. Con đường WBE không cần dạy máy tính cách suy nghĩ, mà chỉ cần sao chép nguyên bản bộ não của một bộ óc thiên tài vào máy tính để nó tự vận hành với tốc độ của dòng điện. Câu chuyện phát triển này buộc các nhà lãnh đạo phải hiểu rõ bản chất của thực thể mà thế giới đang muốn chế tạo ra.
Câu hỏi đặt ra hiện nay không phải là có phát triển AI hay không mà là làm sao để phát triển một cách an toàn? Liệu nhân loại có phải chứng kiến sự trỗi dậy độc tôn của một Siêu trí tuệ duy nhất được phát triển trong một phòng thí nghiệm bảo mật độc quyền? Kịch bản đơn cực này cực kỳ dễ xảy ra khi cuộc đua hiện tại đang bị chi phối bởi những dòng tiền đầu tư khổng lồ và tham vọng độc chiếm thị trường toàn cầu của các lợi ích nhóm.
Sau 10 năm dự đoán các rủi ro phát sinh, kịch bản này đang được phơi bày rõ nét hơn bao giờ hết qua những vụ kiện tụng và tranh cãi nảy lửa chưa có hồi kết giữa Elon Musk, Sam Altman, Microsoft về việc OpenAI nên là một liên minh phi lợi nhuận vì nhân loại hay là một thực thể thương mại đóng kín.
Hay chúng ta có thể kỳ vọng một kịch bản “hòa bình” hơn: các quốc gia sẽ ngồi lại và cùng chọn một sự tiến hóa đa cực thông qua một liên minh hợp tác minh bạch?
Mổ xẻ sâu sắc cả hai viễn cảnh này, Nick Bostrom đã đưa ra một lời cảnh báo sát sườn hơn: Dù tương lai đi theo kịch bản nào, thì chính áp lực nghẹt thở từ dòng vốn, tham vọng quyền lực của lợi ích nhóm và tâm lý sợ mất phần sẽ luôn là thứ dễ dàng khiến con người vứt bỏ mọi rào cản an toàn cuối cùng để giành chiến thắng bằng mọi giá.
Quyền đi nước cờ đầu tiên
Sau khi bóc tách toàn bộ các khía cạnh, thông điệp cuối cùng của Siêu trí tuệ nằm ở một lời nhắc nhở: Nhân loại chỉ có một lợi thế duy nhất trước cỗ máy, đó là chúng ta được quyền đi nước cờ đầu tiên. Một khi thực thể này đã vượt qua ranh giới nhận thức của con người, mọi giải pháp can thiệp kỹ thuật sau đó đều trở nên vô hiệu, bởi cỗ máy sẽ luôn đi trước chúng ta nhiều bước tư duy để tự bảo vệ sự tồn tại của nó.
Cuốn sách là một tài liệu tham chiếu đặc biệt quý giá cho bất kỳ ai muốn biết sâu hơn về câu chuyện đằng sau các thuật toán đang định hình AI hiện nay, đem lại một góc nhìn tổng quan và thấu đáo hơn về những tham vọng đang diễn ra tại lĩnh vực công nghệ.
Nick Bostrom buộc chúng ta phải dừng lại một nhịp giữa cuộc đua để chiêm nghiệm một vấn đề ngay từ đầu tác phẩm đã gợi ra: Chúng ta có kịp tìm ra giải pháp kiểm soát, trước khi đàn chim sẻ mang quả trứng cú trở về? Đó cũng chính là lý do vì sao Siêu trí tuệ nhận được sự đánh giá rất cao từ các tỷ phú công nghệ hàng đầu như Bill Gates, Elon Musk, Mark Zuckerberg, Larry Page trong suốt thập niên qua.
Nick Bostrom
Tác giả sinh năm 1973, là một triết gia và nhà bác học người Thụy Điển, sở hữu giải thưởng Eugene R. Gannon danh giá dành cho người có cống hiến cho tương lai nhân loại. Ông nổi tiếng với các công trình nghiên cứu về rủi ro hiện sinh và rủi ro siêu trí tuệ.
Nick Bostrom là giáo sư và nhà nghiên cứu chính tại Trung tâm Sáng kiến Nghiên cứu Chiến lược Vĩ mô thuộc Đại học Oxford. Ông là tác giả của khoảng 200 ấn phẩm, bao gồm Anthropic Bias (2002), Global Catastrophic Risks (2008), Human Enhancement (2009), Superintelligence (2014) và Deep Utopia (2024). Các bài viết của ông đã được dịch ra nhiều ngôn ngữ, và đã có hơn 100 bản dịch và tái bản các tác phẩm của ông.
Ông đã hai lần lọt vào danh sách “100 Nhà tư tưởng Toàn cầu Hàng đầu” của tạp chí Foreign Policy, và cũng có tên trong danh sách “Nhà tư tưởng Thế giới” của tạp chí Prospect.
Ông là diễn giả thường xuyên của TED và đã thực hiện hàng nghìn cuộc phỏng vấn với truyền hình, đài phát thanh và báo chí.
Alpha Books được biết đến là một trong những thương hiệu hàng đầu về dòng sách quản trị kinh doanh, phát triển kỹ năng, tài chính, đầu tư… với các cuốn sách hướng dẫn khởi nghiệp, phương pháp và kinh nghiệm quản trị của các chuyên gia và các tập đoàn nổi tiếng trên thế giới như: Tư duy nhanh và chậm (Daniel Kahneman), Điểm bùng phát (Malcolm Gladwell), Chiến lược đại dương xanh (W.Chan Kim, Renée Mauborgne), Tư duy hệ thống (Donella Meadows), Phi lý trí (Dan Ariely)…
Sau hơn 20 năm hình thành và phát triển, Alpha Books đã từng bước khẳng định tên tuổi của mình, đặc biệt đối với các thế hệ độc giả là các doanh nhân, nhà quản lý và những người trẻ luôn khát khao xây dựng sự nghiệp thành công.
Thanh Trúc
