AI For Public Good: Open-Source Is Not Enough
Nikita Lukianets, 26 April 2021 - updated 1 year ago
Bài được đưa lên Internet ngày: 26/04/2021, được cập nhật 1 năm trước
Những câu chuyện về các công ty đầu tư mạnh mẽ vào các chương trình trách nhiệm của xã hội và doanh nghiệp - CSR (Corporate Social Responsibility) không còn là điều mới mẻ. Các công ty công nghệ cũng không phải là ngoại lệ; họ nỗ lực khơi dậy tinh thần cống hiến vì cộng đồng của nhân viên, đóng góp cho cộng đồng và xây dựng lòng tin với khách hàng. Nguồn Mở (Open Source) đã trở thành một phần quan trọng trong chiến lược CSR và hơn thế nữa. Trong khi một số công ty quảng bá các hoạt động nguồn mở để tạo dựng niềm tin nơi người dùng, thì những công ty khác lại xây dựng toàn bộ quy trình nghiên cứu và phát triển (R&D) cũng như chiến lược sản phẩm hoàn toàn dựa trên nền tảng nguồn mở. Tại sao lại như vậy? Lợi ích của việc áp dụng nguồn mở là gì? Những rủi ro tiềm ẩn ra sao và tất cả những điều này có liên quan gì đến trí tuệ nhân tạo (AI)?
Vậy, chính xác thì nguồn mở là gì? Phần mềm nguồn mở - OSS (Open Source Software) là loại phần mềm có mã nguồn được mở công khai và được cấp phép theo cách cho phép bất kỳ ai cũng có thể nghiên cứu, sửa đổi và phân phối phần mềm đó cho người khác với bất kỳ mục đích nào. Nguyên tắc cốt lõi của OSS là sự hợp tác cộng đồng trong việc tạo ra mã nguồn, bản thiết kế và tài liệu kỹ thuật một cách mở công khai.
Khái niệm chia sẻ miễn phí các đổi mới công nghệ đã tồn tại từ rất lâu trước khi máy tính ra đời; ví dụ điển hình là việc chia sẻ tri thức khoa học trên tạp chí Philosophical Transactions hay các thỏa thuận cấp phép chéo trong giai đoạn đầu của ngành công nghiệp ô tô – điều được mô tả chi tiết trong cuốn The Car Culture của James Flink.
Trong thời kỳ đầu của ngành máy tính, phần mềm chủ yếu được các nhà nghiên cứu làm việc trên tinh thần hợp tác tạo ra. Tuy nhiên, sau khi Ủy ban Hoa Kỳ về Sử dụng Công nghệ Mới đối với các Tác phẩm có Bản quyền (CONTU) quyết định rằng phần mềm có thể được bảo hộ bản quyền, các nhà cung cấp máy tính và công ty phần mềm bắt đầu thu phí cấp phép. Đối với những đơn vị nắm giữ nguồn lực và quyền sở hữu trí tuệ (IP), việc bán giấy phép sử dụng mã nguồn độc quyền hứa hẹn mang lại lợi nhuận khổng lồ. Phong trào phần mềm tự do (free software movement) ra đời phần lớn nhằm mục đích đối trọng lại xu hướng tư hữu hóa phần mềm này.
Crowdsourced reliability and security
Lợi ích thường được nhắc đến nhiều nhất của phần mềm nguồn mở chính là chi phí. Thoạt nhìn, nguồn mở dường như là một miền đất hứa đầy hấp dẫn. Người dùng có thể sử dụng và phát triển các ứng dụng mới dựa trên nền tảng mã nguồn có sẵn hoàn toàn miễn phí mà không cần phải trả thêm bất kỳ khoản phí cấp phép nào. Tất nhiên, chi phí mua giấy phép chỉ là một phần trong tổng chi phí; tuy nhiên, hãy cùng xem xét các khía cạnh khác của mô hình nguồn mở để hiểu điều gì khiến nó trở nên hấp dẫn đối với cộng đồng doanh nghiệp cũng như các ứng dụng AI phục vụ lợi ích công cộng.
3 lợi ích hàng đầu của mã nguồn mở bao gồm:
Độ tin cậy và tính bảo mật nhờ sức mạnh cộng đồng
Sự tự do và linh hoạt
Đổi mới sáng tạo mở
Độ tin cậy và tính bảo mật nhờ sức mạnh cộng đồng
Việc chia sẻ khơi dậy sự xuất sắc trong quá trình phát triển. Khi biết rằng các đồng nghiệp sẽ xem xét công việc của mình, bạn sẽ nỗ lực hết mình. Bảo mật phần mềm nguồn mở là mối quan tâm của nhiều người; tuy nhiên, thực tế đã chứng minh rằng khi mã nguồn của dự án được mở công khai, sẽ có nhiều cơ hội hơn để các chuyên gia bảo mật (ethical hackers) rà soát và tăng cường tính bảo mật cho mã nguồn đó. Nhờ vậy, việc bắt đầu với các thành phần chất lượng cao khi phát triển thuật toán AI sẽ mang lại cơ hội lớn hơn để tạo ra các sản phẩm AI ưu việt.
Sự tự do và linh hoạt
Cách tiếp cận mã nguồn mở cho phép xây dựng và tùy chỉnh các thuật toán AI ngay từ nền tảng cơ bản. Điều này có nghĩa là nhiều nhà cung cấp phần mềm có thể cùng tham gia phát triển sản phẩm khi cần thiết. Trái ngược với nguồn mở, các sản phẩm dựa trên mã nguồn độc quyền (proprietary code) thường không mang lại sự linh hoạt như vậy, đồng thời có thể dẫn đến tình trạng tắc nghẽn trong quá trình phát triển và làm tăng chi phí.
Đổi mới sáng tạo mở
Khi mọi người làm việc với các thuật toán AI vì động lực tự thân (chứ không chỉ vì thù lao), họ sẽ có quyết tâm cao hơn nhiều trong việc đóng góp những ý tưởng xuất sắc nhất. Chính động lực này thường truyền cảm hứng cho các cộng đồng tình nguyện phát triển những tính năng mang tính đột phá với tốc độ nhanh đến mức khó có thể hình dung đối với các nhà cung cấp thương mại truyền thống.
Các phương thức huy động sức mạnh cộng đồng (crowdsourcing) được biết đến với khả năng thúc đẩy đổi mới sáng tạo trong các ngành công nghiệp đòi hỏi nhiều nguồn lực và có tính cạnh tranh cao, bao gồm cả các lĩnh vực ứng dụng AI. Vậy, đâu là những rủi ro và liệu nguồn mở có phải là giải pháp "đủ" hay không?
Trước hết, cần lưu ý rằng các sản phẩm AI phát triển theo mô hình nguồn mở cũng tiềm ẩn những rủi ro tương tự như bất kỳ sản phẩm nguồn mở nào khác: (1) Các sản phẩm nguồn mở dễ bị kẻ xấu tấn công vì quyền truy cập vào cơ sở mã nguồn cũng đồng nghĩa với việc có thể khai thác các lỗ hổng bảo mật của sản phẩm; (2) Trải nghiệm người dùng (UX): dù không phải tất cả phần mềm nguồn mở đều như vậy, nhưng một số giải pháp có thể không thân thiện với người dùng bằng các sản phẩm thương mại tương ứng; (3) Do nguồn mở thường được nhiều cá nhân đóng góp phát triển, trách nhiệm cũng bị phân tán, khiến việc quy trách nhiệm cụ thể trở nên khá khó khăn.
Thứ hai, thành phần mã nguồn chỉ là một yếu tố cấu thành sản phẩm. Ngày nay, nhiều thuật toán AI và mã nguồn triển khai của chúng đã được mở công khai, thậm chí cho phép sử dụng miễn phí. Tuy nhiên, mã nguồn không phải là yếu tố duy nhất định hình nên sản phẩm AI. Nếu muốn sao chép một sản phẩm AI dựa trên thuật toán nguồn mở của nó, người khác sẽ không thể thực hiện được nếu thiếu năng lực tính toán khổng lồ và các bộ dữ liệu cần thiết để huấn luyện mô hình AI. Trong trường hợp này, việc chỉ công khai mã nguồn không nhất thiết giải quyết được sự chênh lệch giữa những bên sở hữu dữ liệu và tài nguyên tính toán với những bên không có các nguồn lực này.
Nguồn Mở là một văn hóa tuyệt vời, nhưng liệu nó có vô nghĩa đối với các sản phẩm dựa trên AI? Câu trả lời là không. Nó cần một định nghĩa mới. Để nền kinh tế phát triển thịnh vượng và mang lại lợi ích cho những nhóm người yếu thế, chúng ta cần định nghĩa lại khái niệm Nguồn Mở cho phù hợp với thế giới do AI vận hành. Trong thế giới này, việc công khai tài liệu về các quy trình thực hành sẽ mang lại lợi ích to lớn cho cả nhà phát triển lẫn người tiêu dùng. Cộng đồng nhà phát triển có thể sử dụng và tái sử dụng các kiến thức chung, qua đó "đứng trên vai những người khổng lồ". Còn cộng đồng người tiêu dùng—theo các chuẩn mực tốt nhất từ những ngành công nghiệp khác—cần được tiếp cận thông tin về cách thức xây dựng các hệ thống này cũng như cách các quyết định tự động được đưa ra. Truy cập mở. Dữ liệu mở. Nguồn Mở. Đạo đức mở.
Hình ảnh được lấy từ MORAN trên Unsplash.
The stories about companies strongly investing in corporate and social responsibility programs are not something new. Tech companies are no exception here, they strive to embrace the altruistic potential of their employees, contribute to the community, and build trust with their customer base. Open-source has become a big part of Corporate Social Responsibility and beyond. While some companies are marketing their open-source activity to build trust with users, others are centering their R&D processes and product strategy around open-source entirely. Why is that so? What are the benefits of going open-source? What are the risks, and what this all has to do with AI?
Well, what exactly is open-source? Open-source software (OSS) is a category of software in which source code is open to the public and is licensed in a way that allows everyone to study, change, and distribute the software to anyone and for any purpose. The main principle of OSS is peer production of source code, blueprints, and documentation which is done openly in public.
The concept of free sharing of technological innovation existed long before computers, the examples are scientific sharing in Philosophical Transactions, or even the cross-licensing agreements of the early automotive industry, as greatly described in The Car Culture book by James Flink.
In the early era of computing, most of the software was produced by researchers working in collaboration. Once US Commission on New Technological Uses of Copyrighted Works decided that software should become copyrightable, computer vendors and software companies began charging for licenses. For those who owned resources and IP, selling licenses to use their proprietary source code promised big returns. The foundation of the free software movement was largely driven to counter this proprietization trend.
The most commonly mentioned benefit of open-source software is cost. From the first glance, it may seem that open-source is a land flowing with milk and honey. One can use and build on top of the existing codebase for free, not being required to pay for any additional license. Of course, paying for a license is only part of the total cost, but let’s look at the other features of the open-source model to understand what makes it so interesting for the business community and public good AI applications.
The top 3 benefits of open source are:
Crowdsourced reliability and security
Freedom and flexibility
Open innovation
Sharing inspires excellence in development. If you know that your peers will be looking, you’ll do your best. Open-source software security is a concern for many; however, it’s proven that if the project’s code is made open, there will be more opportunities for ethical hackers to review that code and make it more secure. As a result, starting with high-quality components when it comes to the development of AI algorithms gives you a higher chance of producing better AI-driven products.
Freedom and flexibility
Using an open-source approach allows the AI algorithms to be built and customized from the ground up. It means that multiple software vendors can participate in the product development if needed. Unlike open-source, products based on proprietary code won’t allow you such flexibility and may lead to development bottlenecks and increased fees.
Open innovation
When you have people working on AI algorithms because they are intrinsically motivated to do so (not just because they’re getting paid), their personal drive to contribute with the best ideas is much higher. This drive is often what inspires volunteer communities to develop disruptive features and at a pace literally unimaginable to a commercial vendor.
Crowdsourcing approaches are known to boost innovation in resource-intensive industries with high competition, including AI-driven verticals. Now, what are the risks, and is open-source “enough”?
First, we need to remember that AI products based on the open-source development model carry the same set of risks as any open-source-based product: (1) Open-source products are vulnerable to malicious users because the privilege to access the codebase also gives the privilege to exploit the product’s vulnerabilities; (2) UX: not true for all open-source software, but some solutions might not be as user-friendly as their commercial counterparts; (3) Since open-source is typically developed by multiple contributors, responsibility is also scattered and it might be quite difficult to hold someone liable.
Second, the code component is only one element of the product. Today multiple AI algorithms and their code implementations are already open and even free to use. However, it’s not the code alone that makes AI product what it is. If someone wants to replicate the AI product based on its open-sourced algorithm, they will not be able to without extensive computing power and the datasets to train the AI model. In this case, just open-sourcing code does not necessarily solve the asymmetry between those who possess datasets and computational resources, and those who don’t.
Open-source is a beautiful culture, but is it futile for AI-driven products? No. It needs a new definition. For the economy to prosper and to bring benefits to the underprivileged, we need to make sure that the Open-source concept is redefined for the AI-driven world. In this world, we may benefit largely from openly documenting our practices both for the developers as well as for the consumers. The developer community can use and reuse the common knowledge and therefore “stand on the shoulders of giants.” The consumer community, following the best practices from other industries, should be able to access information about how these systems are built and how automated decisions are made. Open Access. Open Data. Open Source. Open Ethics.
Picture adopted from MORAN on Unsplash
Dịch: Lê Trung Nghĩa
letrungnghia.foss@gmail.com
