Cơn bão ChatGPT (2022–2023)
Một ô nhập văn bản nhếch nhác mà chính chủ tịch OpenAI dự đoán sẽ chỉ được vài nghìn lượt thích đã đạt 100 triệu người dùng trong hai tháng — kéo theo một luật sư bị phạt vì tin nhầm ChatGPT, Google mất 100 tỷ đô trong một ngày, và cả một cuộc "đảo chính" 5 ngày lật đổ rồi phục hồi CEO OpenAI.
"Không quá một thread Twitter với 5.000 lượt thích"
23 giờ đêm 30/11/2022, OpenAI âm thầm bấm nút "publish" cho một website chỉ có một ô nhập văn bản trên nền trắng — ChatGPT. Chủ tịch OpenAI Greg Brockman dự đoán nó sẽ tạo ra "không quá một thread Twitter với 5.000 lượt thích"; một số kỹ sư còn không chắc có nên gửi thông cáo báo chí. Về kỹ thuật, ChatGPT chỉ là InstructGPT (GPT-3.5 + RLHF) được fine-tune cho hội thoại nhiều lượt — không phải phép màu kỹ thuật mới. Nhưng giao diện chat đơn giản, miễn phí, không cần thẻ tín dụng hay kiến thức kỹ thuật đã thay đổi mọi thứ.
Năm ngày sau: một triệu người dùng — nhanh hơn Facebook (10 tháng), Spotify (5 tháng), Instagram (2,5 tháng). Hai tháng sau: một trăm triệu người dùng, theo UBS là "ứng dụng tiêu dùng phát triển nhanh nhất trong lịch sử Internet". Microsoft tăng đầu tư vào OpenAI lên 10 tỷ đô vào tháng 1/2023; định giá OpenAI nhảy từ 14 tỷ lên 29 tỷ đô chỉ trong vài tuần.
Trao đổi (0)
Chu kỳ "hoảng loạn → thử nghiệm → chấp nhận có giới hạn" của các tổ chức trước ChatGPT
Phản ứng của các trường học với ChatGPT là mẫu hình lặp lại ở hàng trăm tổ chức khác trong năm 2023, thường mất khoảng 6 tháng để đi hết ba giai đoạn:
- 1
Hoảng loạn: 4/1/2023, Bộ Giáo dục New York cấm ChatGPT trên mọi thiết bị/mạng trường công vì lo ngại đạo văn và độ chính xác; Los Angeles, Seattle, Oakland và hàng chục học khu khác theo sau, cùng Sciences Po (Pháp), Queensland và Tasmania (Úc).
- 2
Thử nghiệm thất bại: các công cụ 'phát hiện AI' như GPTZero và Turnitin AI Detection ra mắt nhưng tỷ lệ báo sai (false positive) quá cao để tin cậy — các trường nhận ra không có cách nào đáng tin để phân biệt bài do AI viết.
- 3
Chấp nhận có giới hạn: đến tháng 5/2023, NYC tháo gỡ lệnh cấm, chuyển sang khuyến khích 'AI literacy'; Stanford ra mắt khóa học 'Learning with AI' mùa thu 2023 — từ cấm đoán sang tích hợp có kiểm soát.
Trao đổi (0)
Mata v. Avianca: khi luật sư tin ChatGPT và bị phạt 5.000 đô
Luật sư Steven A. Schwartz, 30 năm kinh nghiệm, dùng ChatGPT để nghiên cứu án lệ hỗ trợ vụ kiện Roberto Mata chống hãng hàng không Avianca tại tòa liên bang Manhattan. ChatGPT trích dẫn hàng loạt vụ án nghe rất thật — "Varghese v. China Southern Airlines", "Shaboon v. Egyptair", "Petersen v. Iran Air" — với tên thẩm phán, ngày tháng, cấu trúc trích dẫn hoàn chỉnh. Schwartz nộp các trích dẫn này lên tòa. Tất cả đều là giả — ChatGPT đã "hallucinate", bịa ra các vụ án không hề tồn tại.
Khi luật sư đối phương không tìm thấy các vụ án và đặt câu hỏi, Schwartz quay lại hỏi chính ChatGPT: "Có phải các vụ này là giả không?" ChatGPT trả lời: "Không, các vụ là thật." Ngày 22/6/2023, Thẩm phán Kevin Castel phạt Schwartz và đồng nghiệp Peter LoDuca 5.000 đô la. Vụ việc trở thành câu chuyện cảnh báo toàn cầu về hiện tượng "hallucination" của LLM — mô hình có thể tạo ra thông tin sai với độ tự tin và chi tiết y hệt thông tin thật, và thậm chí bảo vệ sai lầm đó khi bị chất vấn lại.
Nguồn: Chương 12 — Cơn bão ChatGPT (phần Mata v. Avianca)
Trao đổi (0)
Tự kiểm chứng một câu trả lời AI như Schwartz đã không làm
Hỏi một trợ lý AI bất kỳ về một sự kiện cụ thể mà bạn có thể kiểm chứng độc lập (một trích dẫn sách, một số liệu thống kê, một vụ việc lịch sử ít nổi tiếng). Sau đó thử tự tìm nguồn gốc thật của thông tin đó (tìm trên nguồn chính thống, không hỏi lại chính AI đó). So sánh: câu trả lời của AI đúng hoàn toàn, đúng một phần, hay hoàn toàn bịa như các vụ án của Schwartz?
Trao đổi (0)
17/11/2023, hội đồng quản trị OpenAI đột ngột sa thải Sam Altman với lý do mơ hồ "không nhất quán thẳng thắn trong giao tiếp". Trong 5 ngày sau đó ("the Blip"): Brockman từ chức trong tình đoàn kết; Microsoft (19/11) công bố thuê Altman và Brockman; gần như toàn bộ 800 nhân viên OpenAI (20/11) ký thư đe dọa nghỉ việc tập thể; Ilya Sutskever — người đã bỏ phiếu sa thải Altman — công khai hối hận (21/11); và ngày 22/11 Altman trở lại làm CEO với hội đồng quản trị mới. Sự kiện tiết lộ một thực tế đáng lo ngại: không có cơ chế quản trị rõ ràng nào thực sự kiểm soát được một trong những công ty AI mạnh nhất thế giới — ngay cả hội đồng quản trị chính thức của nó cũng có thể bị đảo ngược quyết định trong vài ngày bởi áp lực từ nhân viên và đối tác thương mại.
Trao đổi (0)
Đăng nhập ở góc trên để lưu tiến độ đọc.