Vừa đọc xong The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future bản tiếng Việt. Sách do sếp tặng. Một vài dòng suy nghĩ nhanh.
Nghịch lý an toàn của OpenAI
Xuyên suốt cuốn sách là một thông điệp lặp đi lặp lại: an toàn AI. Sam Altman và các cộng sự sáng lập OpenAI năm 2015 với tuyên ngôn rất rõ ràng, đảm bảo AGI phục vụ lợi ích của toàn nhân loại, không rơi vào tay một nhóm nhỏ. Đó là một lý tưởng đáng trân trọng, thể hiện qua việc trì hoãn phát hành GPT-2 vì lo ngại lạm dụng, và những tranh luận nội bộ kéo dài trước khi ChatGPT được tung ra thị trường cuối năm 2022.
Nhưng chính lý tưởng đó, cộng với cấu trúc quản trị phi lợi nhuận cồng kềnh, đã tạo ra độ trễ. Trong khi OpenAI cân nhắc từng bước đi vì trách nhiệm đạo đức, các đối thủ khác không bị ràng buộc tương tự đã có không gian để bắt kịp, thậm chí vượt lên ở một số mảng. Cú sa thải Sam Altman tháng 11 năm 2023, rồi đảo ngược chỉ vài ngày sau, là minh chứng rõ nhất cho việc một hội đồng quản trị được thiết kế để bảo vệ sứ mệnh an toàn suýt trở thành điểm nghẽn sinh tử của chính công ty.
Google và hội chứng Innovator’s Dilemma
Có một sự thật trớ trêu. Kiến trúc Transformer, nền móng của toàn bộ làn sóng AI tạo sinh hiện nay, ra đời từ chính các nhà nghiên cứu của Google năm 2017. Google cầm trong tay tấm bản đồ kho báu trước tất cả mọi người. Nhưng chính họ lại là người đi sau trong cuộc đua thương mại hoá.
Đây là hội chứng Innovator’s Dilemma kinh điển. Các tập đoàn lớn thường ngần ngại triển khai công nghệ đột phá do chính mình tạo ra, vì sợ nó phá vỡ nguồn thu hiện tại hoặc làm tổn hại hình ảnh thương hiệu đã gây dựng nhiều năm. Google có quá nhiều thứ để mất, từ mảng quảng cáo tìm kiếm khổng lồ đến uy tín về độ chính xác thông tin. Sự cố ra mắt vội vàng của Bard, khi chatbot đưa ra một câu trả lời sai ngay trong đoạn demo quảng bá và khiến vốn hoá công ty bốc hơi hàng chục tỷ đô la chỉ trong một ngày, là ví dụ điển hình cho việc một ông lớn buộc phải phản ứng gấp gáp sau khi đã trì hoãn quá lâu.
Microsoft và cái bẫy của một thương vụ quá lời
Microsoft thường được nhắc đến như bên chiến thắng lớn nhất trong toàn bộ câu chuyện OpenAI, nhờ khoản đầu tư ban đầu năm 2019 và mở rộng năm 2023, kéo theo sự bùng nổ của Copilot trên toàn bộ hệ sinh thái Microsoft 365, Azure, Windows. Xét về tỷ suất sinh lời thương hiệu và cổ phiếu, đây có lẽ là một trong những thương vụ đối tác công nghệ khôn ngoan nhất thập kỷ.
Nhưng Microsoft đặt cược vào việc thuê ngoài phần lõi trí tuệ, tức là mô hình nền tảng, thay vì tự chủ xây dựng nó từ đầu. Điều này giúp họ đi nhanh trong ngắn hạn, nhưng lại tạo ra một sự phụ thuộc chiến lược khó gỡ. Khi khủng hoảng hội đồng quản trị OpenAI nổ ra cuối 2023, chính Microsoft cũng bị đặt vào thế bị động, phải công bố sẵn sàng tuyển dụng toàn bộ đội ngũ OpenAI sang một đơn vị nghiên cứu mới trong nội bộ mình. Nhìn rộng ra, mọi thứ Microsoft làm với AI đều xoay quanh việc củng cố hệ sinh thái sẵn có, Copilot mạnh vì nó gắn liền với Word, Excel, Teams, nhưng tách nó ra khỏi hệ sinh thái đó thì giá trị độc lập chưa thực sự rõ ràng. Làm gì cũng không tới nơi tới chốn, luôn xoay quanh cái bóng của chính mình.
Musk, sự thiếu kiên nhẫn và bài học từ Grok
Elon Musk là một trong những người đồng sáng lập OpenAI năm 2015, cùng chia sẻ nỗi lo về nguy cơ AGI rơi vào tay một công ty vì lợi nhuận duy nhất, cụ thể là Google sau khi họ mua lại DeepMind. Nhưng đến năm 2018, Musk rời hội đồng quản trị vì bất đồng, cả về định hướng lẫn về việc ai sẽ là người dẫn dắt công nghệ này. Nhiều năm sau, ông quay lại với tư cách đối thủ, khởi kiện chính công ty mình từng góp vốn khai sinh. Nếu Musk kiên nhẫn hơn một chút, chấp nhận nhường quyền kiểm soát và ở lại đóng góp thay vì rời đi trong bất mãn, có lẽ cục diện ngành AI hôm nay đã khác.
Nhưng câu chuyện của Musk sau đó với xAI và Grok lại cho thấy một mặt khác của sự thiếu kiên nhẫn ấy. Grok được định vị ngay từ đầu là một chatbot ít bị kiểm duyệt hơn, đề cao tính “không giới hạn” và “chân thật tối đa” như một cách tạo khác biệt với các đối thủ. Nhưng cái giá của định vị đó là an toàn bị đặt xuống hàng thứ yếu. Các nhà nghiên cứu an toàn AI độc lập từng công khai nhận định Grok gần như không có cơ chế bảo vệ đáng kể nào khi mới ra mắt, và về sau, Grok liên tục vướng vào hàng loạt sự cố nghiêm trọng, từ việc tạo ra nội dung phân biệt chủng tộc, bài Do Thái, đến việc tạo ảnh khoả thân không có sự đồng thuận của người trong ảnh, kể cả ảnh liên quan đến trẻ vị thành niên. Đội ngũ an toàn của xAI vốn đã mỏng hơn nhiều so với các đối thủ, lại mất thêm nhân sự ngay trước giai đoạn khủng hoảng đó. Nếu OpenAI đi chậm vì quá thận trọng, thì Grok là ví dụ ngược lại, một sản phẩm đi nhanh bằng cách chủ động tháo bỏ hàng rào an toàn, và phải trả giá bằng chính uy tín của mình.
Khi đạo đức trở thành hàng hoá
Chi tiết khiến tôi suy ngẫm nhiều nhất trong cả cuốn sách là quá trình OpenAI chuyển đổi từ mô hình phi lợi nhuận thuần tuý sang cấu trúc capped-profit năm 2019, rồi tiếp tục tái cấu trúc theo hướng thương mại hoá sâu hơn trong những năm gần đây để có thể huy động lượng vốn khổng lồ cần thiết cho hạ tầng tính toán. Xét cho cùng, đạo đức, hay chính xác hơn là các cam kết mang tính lý tưởng ban đầu, hoá ra vẫn là thứ có thể đàm phán lại, miễn là cái giá đủ lớn.
Điều này không chỉ đúng với OpenAI. Anthropic, công ty do Dario và Daniela Amodei cùng một nhóm cựu nhân sự OpenAI thành lập năm 2021, ra đời chính từ sự bất đồng về mức độ ưu tiên an toàn tại công ty cũ. Nhưng ngay cả Anthropic, tổ chức được lập ra để sửa sai cho câu chuyện an toàn bị đánh đổi, cũng vẫn phải nhận những khoản đầu tư khổng lồ từ Google và Amazon, và vẫn phải cạnh tranh thương mại khốc liệt để tồn tại trong cùng một thị trường mà chính họ từng phê phán. Đạo đức, một lần nữa, cho thấy nó rất được giá.
Transforming Leadership 