Tác giả, triết gia và nhà sử học bán chạy nhất nhận thấy tiềm năng nghiệt ngã của AI vượt khỏi tầm kiểm soát trong hệ thống tài chính.
Tác giả, triết gia và giáo sư lịch sử Yuval Noah Harari nói với khán giả tại Hội nghị thượng đỉnh đổi mới của Ngân hàng Thanh toán Quốc tế (BIS) rằng việc sử dụng trí tuệ nhân tạo không kiểm soát trong hệ thống tài chính có thể dẫn đến kết quả thảm khốc. Ông nói rằng cần có các tổ chức mạnh để kiểm soát AI.
Harari lập luận rằng hệ thống tài chính tạo ra niềm tin. Tiền, trái phiếu và các công cụ tài chính khác cho phép hàng triệu người xa lạ làm việc cùng nhau hướng tới những mục tiêu chung. Nhưng chưa có nỗ lực nào được thực hiện để làm cho quy định tài chính trở nên dễ hiểu đối với “con người”, ông nói :
“Có lẽ 1% dân số hiểu hệ thống tài chính hoạt động như thế nào. Điều gì xảy ra khi con số đó giảm xuống 0?”
Harari cho rằng cuộc khủng hoảng tài chính 2007-2008 là kết quả của sự đổi mới tài chính khó hiểu. Các cơ quan quản lý không thể hiểu đủ rõ về các sản phẩm tài chính mới để điều chỉnh chúng.
AI là một dạng trí thông minh ngoài hành tinh chỉ mới ở giai đoạn đầu của quá trình tiến hóa. Nó không suy luận theo cách con người làm và có thể dễ dàng tạo ra các thiết bị tài chính ngoài sức tưởng tượng của con người, chuyển quyền lực từ các chính trị gia và cơ quan quản lý sang các thuật toán. Mối quan hệ tin cậy sẽ được xây dựng giữa các hệ thống AI chứ không phải giữa con người với nhau và trong một cuộc khủng hoảng tài chính, các chính trị gia và cơ quan quản lý sẽ buộc phải tin tưởng vào AI.
Sự gián đoạn các mối quan hệ tin cậy có thể dẫn đến bất ổn xã hội. Niềm tin vào các chính trị gia và thể chế đã giảm sút, Harari lưu ý và nói thêm:
“Chúng ta cần ngăn chặn việc AI trở nên hoàn toàn không thể hiểu được. […] Chúng tôi cần khả năng hiểu nó và điều chỉnh nó.”
Harari tiếp tục: Không nên để lại quy định cho những thiên tài hoặc “những nhà lãnh đạo có sức lôi cuốn”. Chỉ các tổ chức mới có thể “giữ con người trong vòng lặp”.
Ngay cả khi đó, vẫn có những nguy hiểm. Những đổi mới mang tính thay đổi thế giới thường chỉ thành công sau một loạt nỗ lực sử dụng chúng thất bại. Harari mô tả chủ nghĩa đế quốc, chủ nghĩa cộng sản và chủ nghĩa Quốc xã là những nỗ lực thất bại trong việc xây dựng xã hội công nghiệp hóa – với hàng chục triệu nạn nhân. Trong khi đó, AI có khả năng đưa ra các ý tưởng về cách sử dụng chính nó.
Harari cho biết các cơ quan quản lý cần tập trung xây dựng niềm tin nhiều hơn giữa người dân để đảm bảo hệ thống tài chính trong tương lai ổn định và thân thiện với con người.
