Can thiệp chính sách 4: Đảm bảo quyền truy cập rộng tới dữ liệu để đào tạo các mô hình AI

Policy intervention 4: Ensuring broad access to data for training AI models

Thúc đẩy quyền truy cập tới dữ liệu công và tư để nuôi dưỡng hệ sinh thái đa dạng và cạnh tranh của phát triển AI.

Fri Jun 28, 2024

Theo: https://theodi.org/news-and-events/blog/policy-intervention-4-ensuring-broad-access-to-data-for-training-ai-models/

Bài được đưa lên Internet ngày: 28/06/2024

Thời đại của AI nền tảng được đặc trưng bởi các mô hình có quy mô lớn và tính linh hoạt cao, có khả năng tạo ra đầu ra phong phú. Nhận thức được cả tiềm năng và rủi ro của các mô hình mới này, ODI đã bắt tay vào một chương trình làm việc về AI lấy dữ liệu làm trung tâm, được thiết kế để tạo ra một hệ sinh thái AI dựa trên các hoạt động dữ liệu có trách nhiệm. Chúng tôi đang khám phá những can thiệp chính sách nào có thể được thực hiện để đảm bảo các công nghệ này được phát triển và triển khai theo cách có lợi cho tất cả mọi người - con người, các cộng đồng và các doanh nghiệp. Đây là bài thứ tư trong loạt năm bài khám phá các can thiệp này.

Dữ liệu dùng để đào tạo các mô tảng AI nền tảng đến từ đâu?

Dữ liệu là nền tảng của các hệ thống AI. Trong suốt vòng đời của AI, dữ liệu được thu thập, xử lý, giám tuyển, tổng hợp và sau đó được sử dụng trong các mô hình. Dữ liệu cũng rất cần thiết để thử nghiệm và đánh giá hiệu suất của mô hình, cũng như để nhập dữ liệu sau khi mô hình được sử dụng.

AI nền tảng được đào tạo bằng nhiều loại dữ liệu phong phú (ví dụ: bảng, hình ảnh, giọng nói) từ nhiều nguồn khác nhau (thu thập từ khắp web hoặc từ dịch vụ mà mọi người tương tác). Các nguồn dữ liệu cho AI rất đa dạng, đặc biệt là đối với các mô hình nền tảng yêu cầu khối lượng lớn. Các nguồn này có thể bao gồm dữ liệu được thu thập từ web, dữ liệu doanh nghiệp hoặc kết hợp cả hai và bao gồm khối lượng lớn dữ liệu văn bản và hình ảnh từ các trang web, bộ sưu tập sách, số liệu thống kê, bản đồ và hình ảnh. Chất lượng là điều cần thiết, vì các mô hình cũng tốt như các tập dữ liệu.

Ở đây, chúng tôi tập trung vào các mô hình nền tảng, nhưng phần lớn cuộc thảo luận này và hành động được chúng tôi đề xuất cũng sẽ áp dụng cho AI hẹp hơn, dự đoán hoặc phân tích. Bất kỳ tập dữ liệu quy mô AI lớn nào cũng phải được xây dựng theo cách tôn trọng quyền của mọi người. Chúng tôi giải quyết cách Chính phủ Anh sắp tới nên bảo vệ Quyền sở hữu trí tuệ, quyền bảo vệ dữ liệu và quyền lao động.

Vì sao quyền truy cập rộng tới dữ liệu lại quan trọng trong bối cảnh AI nền tảng?

Theo truyền thống, máy học dựa vào các tập dữ liệu được tạo thủ công, thường là kịp thời để tạo hoặc khi khó tìm nguồn. Khi quy mô và nhu cầu về dữ liệu tăng lên, đã có sự chuyển dịch sang thu thập lượng lớn dữ liệu từ web và dựa nhiều hơn vào những người làm việc trong cộng đồng để tinh chỉnh và nhắc. Đối với thời đại hiện tại của các mô hình nền tảng - các tập dữ liệu được thu thập từ web như CommonCrawl và LAION cùng với quyền truy cập vào dữ liệu nền tảng công khai từ Wikipedia, Reddit và StackOverflow đã đóng vai trò trung tâm. Quyền truy cập mở và rộng rãi vào dữ liệu có thể được sử dụng cho AI là điều quan trọng nhằm đảm bảo một hệ sinh thái đa dạng và cạnh tranh của các nhà phát triển AI. Andrew Ng nhấn mạnh rằng việc bảo vệ nguồn mở là rất quan trọng đối với hệ sinh thái AI để cho phép các công ty khởi nghiệp sáng tạo tham gia thị trường.

Tuy nhiên, đối với AI nền tảng, ngày càng có nhiều rào cản về quyền truy cập mở và rộng rãi tới dữ liệu công khai.

Việc truy cập vào các tập dữ liệu quy mô lớn đang ngày càng trở nên đắt đỏ, với chi phí dự kiến sẽ tăng vọt khi nhu cầu tiếp tục tăng. Một phần là do tính hữu ích của các tập dữ liệu liên quan nhiều hơn đến chất lượng, thay vì số lượng/quy mô và do đó phụ thuộc rất nhiều vào sự giám tuyển của con người. Một số nhà xuất bản web cũng bắt đầu hạn chế quyền truy cập tới dữ liệu, với gần 14% các trang web phổ biến nhất chặn bot của Common Crawl - thường là để bảo vệ sở hữu trí tuệ và có khả năng là để đạt được các thỏa thuận riêng tư sinh lợi trực tiếp với các công ty AI. Việc đóng dữ liệu này có lợi cho các tổ chức lớn vốn đã có kho dữ liệu, có đủ khả năng tài chính để ra tòa và có thể tham gia vào các thỏa thuận song phương để cấp phép dữ liệu. Các đối thủ cạnh tranh nhỏ và học giả không thể tiếp cận các chiến lược này. Do đó, làn sóng Mô hình Ngôn ngữ Lớn - LLM (Large Language Models) tiếp theo có nguy cơ được các công ty tư nhân xây dựng dựa trên các tập dữ liệu đóng. Ngoài ra, việc theo dõi hiệu suất của các mô hình nền tảng vẫn còn nhiều thách thức do thiếu dữ liệu và chuẩn mực có thể truy cập công khai.

Có những lo ngại đáng kể rằng kỷ nguyên của các tập dữ liệu truy cập mở có thể sắp kết thúc và chúng ta đang tiến gần đến cái gọi là 'mùa đông dữ liệu'. Nếu 'mùa đông dữ liệu' này đến và quyền truy cập mở vào dữ liệu suy giảm, Creative Commons đã bày tỏ lo ngại rằng có thể có 'một khoản lỗ ròng cho tài sản chung... hạn chế quá mức đối với việc thể hiện'. Ví dụ, dựa trên xu hướng hiện tại về quyền truy cập tới dữ liệu nền tảng truyền thông xã hội, việc đóng lại quyền truy cập công khai vào dữ liệu có thể buộc những người phát triển các mô hình AI phải cấp phép dữ liệu với chi phí cao trực tiếp từ những người nắm giữ dữ liệu hoặc mua dữ liệu từ các nhà môi giới dữ liệu đắt tiền.

Ngoài việc ảnh hưởng đến quá trình phát triển AI, việc đóng lại các tập dữ liệu mở trong lịch sử còn có tác động lan tỏa hơn nữa đến việc nghiên cứu các tài sản chung (Commons). Trong nhiều trường hợp, không có giải pháp thay thế nào cho một số tập dữ liệu này - chẳng hạn như CommonCrawl và Wikipedia - nghĩa là sẽ có thêm nhiều hạn chế hơn đối với nghiên cứu về việc sử dụng dữ liệu công khai lớn: giải quyết kiểm duyệt web, lịch sử nghiên cứu khoa học hoặc vận động chính trị và công chúng.

Các tổ chức nguồn mở đóng vai trò quan trọng trong việc hỗ trợ hệ sinh thái chống lại việc đóng lại dữ liệu. Ví dụ, Clement Delangue, CEO của Hugging Face, đã làm chứng trước Quốc hội Hoa Kỳ về nhu cầu "tính mở về mặt đạo đức" trong phát triển AI, điều này sẽ cho phép các nhà nghiên cứu ngoài một vài công ty công nghệ lớn tiếp cận công nghệ. Việc sử dụng lại dữ liệu là rất quan trọng để bảo tồn các tập dữ liệu được truy cập rộng rãi, vì "việc làm cho một tập dữ liệu sẵn sàng cho hoạt động nghiên cứu và phát triển hơn nữa có thể giúp cập nhật dữ liệu vì các nhà nghiên cứu/nhà phát triển khác có thể đóng góp dữ liệu mới".

Tình hình chính sách hiện tại ở Vương quốc Anh và những nơi khác

Vào tháng 9 năm 2023, Cơ quan Cạnh tranh và Thị trường của Vương quốc Anh đã công bố một bộ nguyên tắc cho các mô hình AI nền tảng, bao gồm cả việc nêu rõ sự cần thiết của 'quyền truy cập vào dữ liệu, tính toán, chuyên môn và vốn mà không có hạn chế không đáng có'.

Chính phủ Vương quốc Anh có thành tích trong việc đầu tư vào cơ sở hạ tầng dữ liệu cho phép sử dụng và chia sẻ rộng rãi dữ liệu, bao gồm cả dữ liệu mà chính phủ nắm giữ. Ví dụ, Dịch vụ dữ liệu Vương quốc Anh là cơ sở hạ tầng nghiên cứu quốc gia cung cấp quyền truy cập và đào tạo đáng tin cậy để sử dụng bộ sưu tập lớn dữ liệu nghiên cứu kinh tế, dân số và xã hội - được tài trợ bởi Hội đồng nghiên cứu kinh tế và xã hội. Có một số khoản đầu tư khác vào việc xây dựng cơ sở hạ tầng dữ liệu do (Nghiên cứu và Đổi mới của Vương quốc Anh) UKRI và các hội đồng nghiên cứu khác của Vương quốc Anh thực hiện, cùng với Smart Data Research UK (Nghiên cứu Dữ liệu Thông minh UK).

Trong lĩnh vực y tế, Health Data Research UK thúc đẩy một số sáng kiến nhằm tăng cường chia sẻ và sử dụng dữ liệu. Ví dụ, INSIGHT được HDR UK hỗ trợ và hiện là cơ sở dữ liệu nhãn khoa lớn nhất thế giới với hơn 25 triệu hình ảnh võng mạc và đang thúc đẩy đổi mới bằng cách sử dụng AI để chẩn đoán bệnh thoái hóa. Trong một không gian tương tự, chín AI Hubs for Real Data do EPSRC tài trợ chứng minh tầm quan trọng của nguồn tài trợ công đối với cơ sở hạ tầng AI lấy dữ liệu làm trung tâm.

Ra mắt vào tháng 6 năm 2024, Tuyên ngôn của Đảng Lao động bao gồm đề xuất về Thư viện dữ liệu quốc gia để tập trung các chương trình nghiên cứu hiện có và hỗ trợ phát triển lĩnh vực trí tuệ nhân tạo. Đề xuất này dựa trên tình trạng năng suất thấp của Vương quốc Anh – Anh có kho dữ liệu lớn thứ ba, nhưng tốc độ tăng trưởng chỉ bằng gần một nửa so với Đức và Pháp.

Một số sáng kiến đã được các công ty và cộng đồng nhà phát triển AI khởi xướng để xây dựng các tập dữ liệu mới, sẵn sàng cho AI. Vào tháng 3 năm 2024, các nhà nghiên cứu đã ra mắt Common Corpus, tuyên bố đây là 'tập dữ liệu AI lớn nhất hiện có dành cho LLM chỉ bao gồm nội dung thuộc phạm vi công cộng'. Common Voice là một tập dữ liệu giọng nói có sẵn công khai do hàng nghìn người đóng góp tình nguyện xây dựng với niềm tin rằng "các bộ dữ liệu giọng nói lớn, có sẵn công khai sẽ thúc đẩy sự đổi mới và cạnh tranh thương mại lành mạnh trong công nghệ giọng nói dựa trên máy học". Quỹ Lacuna đã hỗ trợ xây dựng các tập dữ liệu cho nông nghiệp và xử lý ngôn ngữ tự nhiên, và gần đây đã công bố một làn sóng dự án mới liên quan đến biến đổi khí hậu. Nhóm Công tác về Tập dữ liệu MLCommons tạo và lưu trữ các tập dữ liệu công khai "lớn, được duy trì tích cực và được cấp phép dễ dãi - đặc biệt là cho sử dụng thương mại".

Hugging Face hiện lưu trữ hơn 80.000 tập dữ liệu và bao gồm quyền truy cập hạn chế vào 'Tập dữ liệu có cổng'. Nó đã được mô tả cùng với Kaggle và OpenML như một ví dụ về làn sóng mới của 'trung tâm dữ liệu cộng đồng' và 'cơ sở hạ tầng tải dữ liệu được chuẩn hóa' đang được xây dựng để phục vụ ngành công nghiệp AI. Các cơ chế như dữ liệu tổng hợp – dữ liệu được tạo tự động, sử dụng AI và các công cụ khác – cũng có thể được sử dụng khi dữ liệu gốc không mang tính đại diện và cần được cân bằng lại, hoặc khi dữ liệu nhạy cảm và không thể chia sẻ, hoặc khi việc thu thập dữ liệu quá tốn kém.

Viện AI Now và các nhóm nghiên cứu châu Âu khác đã công bố một bức thư ngỏ gửi Ủy ban châu Âu, lập luận rằng "các công ty có quyền truy cập vào các tập dữ liệu độc quyền và được giám tuyển sẽ có lợi thế cạnh tranh", gây ra sự tập trung và hạn chế cạnh tranh trên thị trường AI.

Những người khác đã đề xuất những cách mới để mở ra quyền truy cập vào dữ liệu do các công ty tư nhân nắm giữ. Saffron Huang và Divya Siddarth gợi ý rằng "các công ty [AI] có thể tạo ra, như một chuẩn mực hoặc quy tắc, các tập dữ liệu tiêu chuẩn vàng mà các thực thể khác có thể sử dụng". Viện Ada Lovelace đã thảo luận về tiềm năng "yêu cầu quyền truy cập nghiên cứu vào các kho dữ liệu của các công ty công nghệ lớn (Big Tech), để khuyến khích một hệ sinh thái phát triển AI đa dạng hơn". OpenFuture đã phát triển một bản thiết kế cho Public Data Commons (Tài sản Dữ liệu Công cộng), sẽ hoạt động như những trung gian đáng tin cậy để làm cho dữ liệu của khu vực tư nhân sẵn sàng để chia sẻ vì lợi ích công cộng và cho phép tạo ra giá trị công cộng. Một số sáng kiến dữ liệu mở trong lĩnh vực khoa học chứng minh tác động của các kho lưu trữ mở tuân theo các nguyên tắc FAIR với danh mục dữ liệu có cấu trúc và các định dạng dữ liệu được tiêu chuẩn hóa.

Ngoài ra còn có những đề xuất mới xung quanh vai trò của chính phủ với tư cách là nhà cung cấp dữ liệu cho AI. Stability AI đã lập luận rằng các quốc gia cần có trình tạo hình ảnh quốc gia riêng mình, trình tạo này phản ánh các giá trị quốc gia, với các tập dữ liệu do chính phủ và các tổ chức công cung cấp. Viện Bennett đã đề xuất một 'quỹ dữ liệu quốc gia', trong đó 'dữ liệu từ các nguồn quốc gia, chẳng hạn như BBC và Thư viện Anh, sẽ được giao phó. Viện Tony Blair cũng đã và đang nói về các quỹ dữ liệu, như một hình thức tổ chức mới để tăng cường quyền truy cập tới dữ liệu của NHS cho mục đích nghiên cứu và đổi mới.

Các bước cần thực hiện

Để bảo vệ quyền truy cập rộng rãi vào dữ liệu cho nghiên cứu và đổi mới AI, chúng tôi khuyến nghị Chính phủ mới của Anh:

• Hỗ trợ việc tạo lập và cải thiện các tập dữ liệu quy mô AI. Như đã nêu trong tuyên ngôn chính sách của mình, chúng tôi ủng hộ việc cải thiện cơ sở hạ tầng dữ liệu cho AI và chuẩn bị dữ liệu sẵn sàng cho AI. Điều này bao gồm các hành động của chính phủ nhằm tạo lập và quản lý các tập dữ liệu chất lượng cao, đảm bảo rằng các tập dữ liệu này có thể truy cập được, đáng tin cậy và có thể sử dụng được, đồng thời được công bố theo các tiêu chuẩn cao và đã được thống nhất. Chính phủ Anh nên hỗ trợ và bảo vệ cơ sở hạ tầng dữ liệu để đảm bảo tính bền vững về mặt tài chính, với việc cấp vốn được ưu tiên cho các tổ chức và cộng đồng tạo lập và đánh giá các tập dữ liệu được giám tuyển tốt trong khi tìm hiểu các cách thức để ngăn chặn việc các tập dữ liệu mở trước đây bị hạn chế. Ngoài ra, chúng tôi kêu gọi cơ sở hạ tầng mạnh mẽ để cho phép các hệ thống AI sử dụng dữ liệu một cách có trách nhiệm, bao gồm các cơ chế đảm bảo và đánh giá chất lượng.

• Khám phá các cách tiếp cận mới để mở rộng quyền truy cập vào dữ liệu của khu vực công. Khối lượng lớn dữ liệu mở, được chia sẻ và đóng của Vương quốc Anh cần được tận dụng tốt hơn, sử dụng các nguyên tắc Tìm thấy được, Truy cập được, Tương hợp được, Sử dụng lại được - FAIR (Findability, Accessibility, Interoperability, and Reusability) để định hình quyền truy cập rộng rãi vào dữ liệu có giá trị cao. Các tổ chức dữ liệu để quản lý dữ liệu công này một cách có trách nhiệm cũng cần được hỗ trợ bền vững thông qua việc cấp vốn và cơ sở hạ tầng.

• Mở ra quyền truy cập vào dữ liệu của khu vực tư nhân. Chính phủ Vương quốc Anh nên khám phá các phương pháp tiếp cận liên ngành để mở ra quyền truy cập vào dữ liệu của khu vực tư nhân cho AI - xây dựng dựa trên tiến trình của các sáng kiến như dữ liệu SMART để tận dụng tiềm năng của các ngành công nghệ Vương quốc Anh. Chính phủ cũng nên hỗ trợ nghiên cứu về các phương pháp tiếp cận pháp lý kỹ thuật, chẳng hạn như xem xét lại việc cấp phép như một phần cốt lõi của chương trình nghị sự nghiên cứu AI nền tảng. Những tiến bộ hơn nữa trong dữ liệu tổng hợp, nếu được sử dụng một cách có trách nhiệm, có thể lấp đầy những khoảng trống mà dữ liệu thường không thể truy cập được.

Tại ODI, chúng tôi mong muốn cung cấp thông tin chi tiết và nguồn lực cho các nhà hoạch định chính sách đang nỗ lực tạo ra một chế độ sở hữu trí tuệ công bằng để ứng phó với AI nền tảng. Chúng tôi sẽ sớm công bố đề xuất can thiệp cuối cùng tập trung vào việc trao quyền cho cá nhân trong dữ liệu và AI.

Promote access to public and private data to cultivate a diverse and competitive ecosystem of AI development.

The age of foundation AI is characterised by models of large scale and high flexibility, capable of producing rich outputs. Recognising both the potential and the risks of these new models, the ODI has embarked on a programme of work on data-centric AI, designed to bring about an AI ecosystem grounded in responsible data practices. We’re exploring what policy interventions could be made to ensure these technologies are developed and deployed in ways that benefit everyone – people, communities and businesses. This is the fourth in a series of five pieces exploring these interventions.

Where does the data used to train foundation AI models come from?

Data is the foundation of AI systems. Across the AI lifecycle, data is collected, processed, curated, aggregated, and subsequently used in the models. Data is also essential for testing and benchmarking a model's performance, as well as for input once a model is in use.

Foundation AI is trained using a rich variety of types of data (eg tabular, images, voice) from varying sources (scraped from across the web, or from the service people interact with). The sources of data for AI are diverse, particularly for foundation models that require vast amounts. These sources can include data collected from the web, enterprise data, or a combination of both, and include vast amounts of text and image data from websites, collections of books, statistics, maps and images. Quality is essential, as models are as good as the datasets.

We're focusing here on foundation models, but much of this discussion and our recommended course of action will also apply to narrower, predictive or analytical AI. Any large AI scale datasets must be constructed in ways that respect people's rights. We address how the incoming UK Government should protect Intellectual Property and data protection and labour rights.

Why is broad access to data important in the context of foundation AI?

Traditionally, machine learning relied on manually crafted datasets, which are often timely to create or challenging to source. As the scale and demand for data have grown, there has been a shift toward collecting vast amounts of data from the web and relying more on crowdworkers for fine-tuning and prompting. To the current age of foundation models – web-scraped datasets such as CommonCrawl and LAION alongside access to public platform data from Wikipedia, Reddit and StackOverflow have been central. Open and broad access to data that can be used to AI is important to ensure a diverse, competitive ecosystem of AI developers. Andrew Ng emphasised that protecting open source is vital for the AI ecosystem to allow innovative startups to enter the market.

However, in the face of foundation AI, there are a growing number of barriers to broad and open access to public data.

Access to large-scale datasets are becoming increasingly expensive, with costs expected to explode as demand continues to increase. This is partly because the usefulness of datasets is more to do with quality, rather than size and hence heavily reliant on expert human-curation. Some web publishers are also starting to restrict access to data, with nearly 14% of the most popular websites blocking Common Crawl’s bot – often to protect intellectual property, and potentially in order to strike lucrative private deals directly with AI companies. This closing of data favours large organisations who already have stockpiles of data, have the financial means to go to court and can enter into bilateral agreements to licence data. These strategies are inaccessible to small competitors and academics. As such, the next wave of LLMs risks being built by private companies on closed datasets. Also, monitoring the performance of foundation models remains challenging due to the shortage of publicly accessible data and benchmarks.

There are significant concerns that the era of open-access datasets might be ending and we are approaching a so-called ‘data winter’.If this ‘data winter’ comes, and open access to data declineS, Creative Commons has expressed concern that there could be ‘a net loss for the commons... overly limiting to expression’. For instance, based on current trends in access to social media platform data, closing down public access to data could force those developing AI models to licence data at a high cost directly from data holders or purchase it from expensive data brokers.

As well as affecting AI development, the closing of historically open datasets has further knock-on effects to researching the commons. In many cases, there is no alternative for some of these datasets – such as CommonCrawl and Wikipedia – meaning further limits on research on uses of large public data: tackling web censorship, history of science research or public and political advocacy.

Open source organisations are vital in supporting the ecosystem to resist the closing of data. For example, Clement Delangue, CEO of Hugging Face, testified before US Congress on the need for ‘ethical openness’ in AI development which would allow researchers beyond a few large tech companies to access the technology. Reuse of data is vital to preserving broadly-accessed datasets, as ‘making a data set available for further research and development activity may help keep it up to date as other researchers/developers are likely to contribute with new data’.

Current policy status in the UK and elsewhere

In September 2023, the UK’s Competition & Markets Authority published a set of principles for foundation AI models, including calling out a necessity for 'access to data, compute, expertise and capital without undue restriction'.

The UK Government has a track record in investing in data infrastructure that enables wide use and sharing of data, including that it holds itself. The UK Data Service, for example, is a national research infrastructure that provides trusted access and training to use a large collection of economic, population and social research data – funded by the Economic and Social Research Council. There are a number of other investments in building data infrastructure made by UKRI and the other UK research councils, alongside Smart Data Research UK.

In the health sector, Health Data Research UK drives a number of initiatives to increase the sharing and use of data. INSIGHT, for example, was supported by HDR UK, and is now the world’s largest ophthalmic database of more than 25m retinal images, and is driving innovation using AI to diagnose degenerative disease. In a similar space, the nine EPSRC-funded AI Hubs for Real Data demonstrate the importance of public funding to data-centric AI infrastructure.

Launched in June 2024, the Labour Party’s Manifesto included a proposal for a National Data Library to centralise existing research programmes and support the development of the artificial intelligence sector. It is based on UK under-productivity – Britain has the third largest data pool, but it is growing at nearly half the speed of Germany and France.

The European Commission EC) has long driven access to public data through its Public Sector Information Directive (now called the Open Data Directive). It has also led on identifying high-value datasets that governments should focus on enabling access to, and maintains an official portal for European data. The EC has also created a rich ecosystem of initiatives to stimulate the sharing of private sector data, for example the Common European Data Spaces, Data Spaces Support Centre and the European Data Innovation Board. The EC is currently consulting on competition and generative AI, which includes an interest in the availability of data. The EU’s proposed Artificial Intelligence Act (AIA) is slated to bring more clarity to the use of text data for AI, while the Digital Services Act (DSA) would bring researchers increased access to social media data.

In the US, the FTC has expressed concern that ‘companies’ control over data may create barriers to entry or expansion that prevent fair competition from fully flourishing'. The US Department of Commerce has launched a new AI and Open Government Data Assets Working Group, which will modernise public data to be AI-ready. The French AI commission has recommended the creation of an International Fund for Public Interest AI with an annual budget of €500m to finance open and public interest AI. Presumably this would include provisions for making data available.

Proposals from civil society, industry and other non-government actors

A number of initiatives have been started by AI firms and developer communities to build new, AI-ready datasets.In March 2024, researchers launched Common Corpus, claiming it to be 'the largest available AI dataset for LLMs composed purely of public domain content'. Common Voice is a publicly available voice dataset built by thousands of volunteer contributors on the belief that “that large, publicly available voice datasets will foster innovation and healthy commercial competition in machine-learning based speech technology”. The Lacuna Fund has already supported the construction of datasets for agriculture and natural language processing, and has recently announced a new wave of projects related to climate change. The MLCommons Datasets Working Group creates and hosts public datasets that are “large, actively maintained, and permissively licensed - especially for commercial use”.

Hugging Face now hosts over 80,000 datasets and includes restricted access to ‘Gated Datasets’. It has been described alongside Kaggle and OpenML as an example of the new wave of ‘community data hubs’ and ‘standardised data loading infrastructure’ being built to serve the AI industry. Mechanisms such as synthetic data – data created automatically, using AI and other tools– can also be used when the original data is not representative and needs to be rebalanced, or when it's sensitive and can't be shared, or when it's too costly to collect.

The AI Now Institute and other European think tanks have published an open letter to the European Commission, arguing that 'firms with access to proprietary and curated datasets enjoy a competitive edge', causing concentration and limiting competition in the AI market.

Others have proposed new ways to open up access to data held by private firms. Saffron Huang and Divya Siddarth suggest that '[AI] companies could create, as a norm or a rule, gold standard datasets usable by other entities'. The Ada Lovelace Institute has discussed the potential to 'mandate research access to Big Tech data stores, to encourage a more diverse AI development ecosystem'. OpenFuture has developed a blueprint for Public Data Commons, which would act as trusted intermediaries to make private sector data available for public interest sharing and enable public value to be generated. Several open data initiatives in the scientific field demonstrate the impact of open repositories which follow FAIR principles with structured catalogues of data and standardised data formats.

There are also new proposals around governments’ role as a provider of data for AI. Stability AI has argued for nation states to have its own national image generator, one that reflects national values, with datasets provided by the government and public institutions. The Bennett Institute has proposed a ‘national data trust’ where 'data from national sources, such as the BBC and the British Library, would be entrusted. The Tony Blair Institute has been talking about data trusts too, as a form of new institution to increase access to NHS data for research and innovation.

Steps to take

In order to protect the broad access to data for AI research and innovation, we recommend that the incoming UK Government:

• Support the creation and improvement of AI-scale datasets. As outlined in our policy manifesto, we advocate for improved data infrastructure for AI and the preparation of AI-ready data. This includes government actions to create and regulate high-quality datasets, ensuring that these datasets are accessible, reliable, and usable, and published according to high and agreed-upon standards. The UK government should support and protect data infrastructure to ensure financial sustainability, with funding prioritised for organisations and communities that create and evaluate well-curated datasets while exploring ways to prevent previously open datasets from becoming restricted. Additionally, we call for robust infrastructure to enable AI systems to use data responsibly, including mechanisms for assurance and quality assessment.

• Explore new approaches to opening up access to public sector data. The UK’s vast body of open, shared and closed data needs to be better capitalised on, using FAIR (findability, accessibility, interoperability, and reusability) principles to shape broad access to high-value data. Data institutions to responsibly steward this public data should also be sustainably supported through funding and infrastructure.

• Open up access to private sector data. The UK government should explore cross-sector approaches to opening up access to private sector data for AI – building on the progress of initiatives such as SMART data to capitalise on the UK tech sectors potential. The government should also be supporting research into techno-legal approaches, such as revisiting licensing as a core part of the foundation AI research agenda. Further advancements in synthetic data, if used responsibly, can fill gaps where data cannot typically be accessed.

At the ODI, we’re keen to provide insights and resources to policymakers working towards creating a fair intellectual property regime in response to foundation AI. We will publish our final proposed intervention focused on empowering individuals in data and AI shortly.

Dịch: Lê Trung Nghĩa

letrungnghia.foss@gmail.com

Can thiệp chính sách 3: Thực thi quyền của mọi người trong chuỗi cung ứng dữ liệu

Policy intervention 3: Enforcing people’s rights in the data supply chain

Chúng ta phải tránh khoảng trống thực thi trong quy trình đào tạo, tinh chỉnh và kiểm thử các mô hình AI nền tảng.

Wed Jun 26, 2024

Theo: https://theodi.org/news-and-events/blog/policy-intervention-3-enforcing-peoples-rights-in-the-data-supply-chain/

Bài được đưa lên Internet ngày: 26/06/2024

Thời đại của AI nền tảng được đặc trưng bởi các mô hình có quy mô lớn và tính linh hoạt cao, có khả năng tạo ra đầu ra phong phú. Nhận thức được cả tiềm năng và rủi ro của các mô hình mới này, ODI đã bắt tay vào một chương trình làm việc về AI lấy dữ liệu làm trung tâm, được thiết kế để tạo ra một hệ sinh thái AI dựa trên các hoạt động dữ liệu có trách nhiệm. Chúng tôi đang khám phá những can thiệp chính sách nào có thể được thực hiện để đảm bảo các công nghệ này được phát triển và triển khai theo cách có lợi cho tất cả mọi người - con người, các cộng đồng và các doanh nghiệp. Đây là bài thứ ba trong loạt năm bài khám phá các can thiệp này.

Mọi người tham gia trong chuỗi cung ứng dữ liệu như thế nào?

Có sự tham gia đáng kể của con người đằng sau dữ liệu được sử dụng để đào tạo các mô hình AI nền tảng. Con người thực hiện các nhiệm vụ mà các mô hình máy tính khó có thể sao chép, chẳng hạn như thu thập dữ liệu, lọc và kiểm duyệt dữ liệu và dán nhãn dữ liệu.

Thị trường toàn cầu cho loại công việc dữ liệu này được định giá 2 tỷ đô la vào năm 2022 và dự kiến sẽ tăng lên 17 tỷ đô la vào năm 2030. Hầu hết công việc này ở dạng 'nhiệm vụ nhỏ', được thực hiện ở các quốc gia có thu nhập thấp và trung bình. Theo The Washington Post, chỉ riêng ở Philippines đã có hơn hai triệu người thực hiện loại công việc này, bao gồm dán nhãn người đi bộ cho các thuật toán lái xe tự động, dán nhãn ảnh của người nổi tiếng và chỉnh sửa các đoạn văn bản để 'đảm bảo các mô hình ngôn ngữ như ChatGPT không tạo ra thứ vô nghĩa'.

Nhiều tập dữ liệu AI cũng sẽ bao gồm dữ liệu về con người, bao gồm tên, hình ảnh và thông tin vị trí. Dữ liệu này có thể đã được thu thập từ các nguồn công khai trên web hoặc được các dịch vụ mà chúng tôi tham gia thu thập và sử dụng - cho dù chúng tôi sử dụng chúng cho mục đích giải trí hay công việc. Mặc dù các định nghĩa khác nhau tùy theo quyền tài phán, dữ liệu về người được luật pháp công nhận là 'dữ liệu cá nhân'.

Mặc dù bảo vệ dữ liệu và quyền lao động đại diện cho các quan điểm và lợi ích khác nhau, chúng tôi sẽ giải quyết chúng cùng nhau trong bài viết này. Cuối cùng, cả hai đều liên quan đến việc bảo vệ các quyền và quyền tự do cơ bản, và chúng tôi thấy một rủi ro tương tự trong cả hai lĩnh vực, theo đó sự gia tăng của AI nền tảng đe dọa đến việc thực thi các biện pháp bảo vệ hiện có. Như chúng tôi sẽ thảo luận, cũng có một sự hợp lưu hữu ích giữa hai lĩnh vực này đang nổi lên.

Có một số chủ đề mà chúng tôi sẽ không đề cập ở đây. Quan điểm mở rộng về quyền lao động và chuỗi cung ứng AI cũng sẽ bao gồm những người lao động không liên quan đến dữ liệu, chẳng hạn như những người khai thác khoáng sản được sử dụng trong các thành phần máy tính, nhưng chúng tôi nhận thức được rằng chuyên môn của mình trong lĩnh vực này có hạn. Và chúng tôi sẽ giải quyết vấn đề sở hữu trí tuệ trong bối cảnh đào tạo các mô hình AI trong một bài đăng riêng trong loạt bài này.

Vì sao quyền lao động và bảo vệ dữ liệu lại quan trọng trong bối cảnh AI nền tảng?

Có một số rủi ro đối với điều kiện lao động và quyền trong chuỗi cung ứng dữ liệu.

Đầu tiên, những người lao động dữ liệu có thể tiếp xúc với những hình ảnh gây khó chịu và ngôn ngữ bạo lực. Một người lao động có hơn bảy năm làm việc trong nhóm cộng đồng đã mô tả rằng, mặc dù họ đã tiếp xúc với nội dung tự tử có hình ảnh, nhưng không nhận được cảnh báo về nội dung, không được tư vấn và không có đường dây nóng về tự tử.

Người lao động cũng có quyền được hưởng mức sống và an sinh xã hội. Tuy nhiên, một cuộc điều tra của tạp chí Time năm 2023 phát hiện ra rằng những người lao động AI ở Kenya được trả lương chưa đến 2 đô la một giờ và được phân loại là nhà thầu độc lập, không có các biện pháp bảo vệ an sinh xã hội như bảo hiểm y tế, đóng góp lương hưu và nghỉ phép có lương. Cũng có những cáo buộc về việc phá vỡ công đoàn và sa thải hàng loạt sau cuộc đình công năm 2019. Tình trạng bấp bênh này - kết hợp với việc kiểm duyệt nội dung một cách cực đoan - đã dẫn đến một cuộc khủng hoảng sức khỏe tinh thần trong số một số nhân viên dữ liệu Kenya. Một cuộc điều tra khác về các công ty làm chú thích dữ liệu đã mô tả một hệ thống mà biên lợi nhuận cao được ưu tiên hơn quyền và sự an toàn của người lao động. Các cuộc điều tra khác đã phát hiện ra rằng công việc dán nhãn dữ liệu được thực hiện bởi những người chưa thành niên.

Những người lao động làm việc với dữ liệu có xu hướng có quyền truy cập hạn chế tới các biện pháp khắc phục và giải quyết khiếu nại hiệu quả. Trong một số trường hợp, các công ty vẫn ẩn danh, biến mất và xuất hiện trở lại thường xuyên, khiến việc theo dõi và ngăn chặn những kẻ xấu trở nên vô cùng khó khăn. Một báo cáo của Aapti cho UNDP đã mô tả cách người lao động có thể bị phạt và bị loại khỏi hệ thống sau khi xếp hạng thấp hơn.

Những rủi ro này đối với quyền lao động có liên quan đến bất kỳ tổ chức nào của Anh sử dụng các mô hình AI đã được đào tạo ở nơi khác. Nhưng do thiếu minh bạch xung quanh dữ liệu được sử dụng để đào tạo nhiều mô hình AI phổ biến, các tổ chức thậm chí có thể không nhận thức được mức độ phụ thuộc của họ vào lực lượng lao động này.

Theo quan điểm bảo vệ dữ liệu, các mô hình AI nền tảng có nguy cơ mở rộng Khoảng trống thực thi bảo vệ dữ liệu, theo đó, tính nghiêm ngặt của các quy định xung quanh dữ liệu cá nhân, trên giấy tờ, không phù hợp với hoạt động của các tổ chức trong thế giới thực. Ví dụ, các mô hình AI nền tảng được đào tạo bằng cách sử dụng lượng lớn dữ liệu được thu thập từ khắp web, với nhiều nhà phát triển mô hình dường như nghĩ rằng bất kỳ dữ liệu công khai nào cũng là trò chơi công bằng. Kết quả là, mười hai cơ quan bảo vệ dữ liệu quốc gia, bao gồm Văn phòng Ủy viên thông tin của Vương quốc Anh, đã xuất bản một tuyên bố chung để làm rõ rằng việc thu thập hàng loạt thông tin cá nhân từ web để đào tạo AI có thể cấu thành hành vi vi phạm dữ liệu có thể báo cáo ở nhiều quyền tài phán.

Nhiều công ty hiện cũng đang thay đổi các điều khoản dịch vụ của họ để cho phép họ sử dụng dữ liệu do người dùng tạo ra để đào tạo các mô hình AI mới. Meta gần đây đã công bố những thay đổi đối với chính sách về quyền riêng tư của mình, tin rằng họ có lợi ích hợp pháp để phủ nhận quyền bảo vệ dữ liệu của người dùng để phát triển 'công nghệ trí tuệ nhân tạo'. Max Schrems, một nhà hoạt động bảo vệ dữ liệu và luật sư đã chỉ trích những thay đổi này vì sự mơ hồ của chúng và cho biết rằng 'điều này rõ ràng là trái ngược với việc tuân thủ [bảo vệ dữ liệu]'.

Và trong khi trọng tâm chủ yếu là đưa dữ liệu cá nhân vào đào tạo AI nền tảng, có thể có thêm những thách thức về bảo vệ dữ liệu ở hạ nguồn. Các nhà nghiên cứu đã chỉ ra rằng ChatGPT có thể "rò rỉ" dữ liệu dựa trên đó mô hình cơ bản của nó được đào tạo.

Tình trạng chính sách hiện tại ở Vương quốc Anh và những nơi khác

Vào tháng 3 năm 2023, cơ quan bảo vệ dữ liệu của Ý đã tạm thời đình chỉ việc sử dụng ChatGPT vì lo ngại về việc xử lý dữ liệu cá nhân để đào tạo hệ thống. Lệnh cấm này đã được dỡ bỏ trước khi các nhà chức trách Ý phát hiện thêm các hành vi vi phạm quyền riêng tư dữ liệu vào tháng 1 năm 2024. Tại Hoa Kỳ, một vụ kiện ở California đã tuyên bố rằng các mô hình nền tảng của OpenAI đã được đào tạo bất hợp pháp dựa trên các cuộc trò chuyện riêng tư, dữ liệu và thông tin y tế về trẻ em.

Thông báo về cuộc Tổng tuyển cử năm 2024 đã cắt giảm bớt việc thông qua Dự luật Bảo vệ dữ liệu và Thông tin kỹ thuật số (DPDI) mới của Vương quốc Anh thông qua quá trình lập pháp. ODI trước đó đã chia sẻ sự thất vọng của chúng tôi rằng Dự luật được đề xuất sẽ làm suy yếu tính minh bạch, quyền và biện pháp bảo vệ.

Chính phủ Anh ít đề cập đến chuỗi cung ứng dữ liệu cho các mô hình AI hoặc ngành công nghiệp dán nhãn dữ liệu của riêng quốc gia này. Mặc dù các thị trường lớn nhất nằm ở các nền kinh tế có mức lương thấp, nhưng vẫn có một số công ty có trụ sở tại Anh - chẳng hạn như Prolific và Snorkel AI.

Các tổ chức của Anh ở cả khu vực công và tư hiện đang sử dụng các mô hình được đào tạo trước, trong đó công việc dữ liệu, chẳng hạn như dán nhãn, đào tạo và thử nghiệm, đã hoàn tất rồi. Tuy nhiên, các chuỗi cung ứng phức tạp liên quan đến việc dán nhãn dữ liệu và kiểm thử an toàn cho các mô hình có sẵn này có thể không minh bạch đối với các tổ chức này.

Vào tháng 5 năm 2024, 97 người dán nhãn dữ liệu, người kiểm duyệt nội dung và những người làm việc về dữ liệu khác ở Kenya đã viết thư cho Tổng thống Biden để lập luận rằng 'Các công ty công nghệ lớn của Hoa Kỳ đang lạm dụng và bóc lột người lao động châu Phi một cách có hệ thống… [bằng cách] phá hoại luật lao động địa phương, hệ thống tư pháp của đất nước và vi phạm các tiêu chuẩn lao động quốc tế'. Bức thư nêu rõ rằng Kenya cần những công việc này, nhưng không phải bằng bất cứ giá nào.

Vào tháng 4 năm 2024, Nghị viện Châu Âu đã thông qua một chỉ thị mới nhằm cải thiện điều kiện làm việc của những người làm việc trên nền tảng (bao gồm cả các công nhân dữ liệu). Chỉ thị này đưa ra những quyền mới cho người lao động, bao gồm cả việc được cho là có việc làm, ngăn chặn các quyết định quản lý thuật toán (như tuyển dụng và sa thải), và tăng cường tính minh bạch và bảo vệ dữ liệu cá nhân.

Các đề xuất từ xã hội dân sự, ngành công nghiệp và các bên phi chính phủ khác

Chúng tôi bắt đầu thấy một số công ty dán nhãn dữ liệu tạo sự khác biệt thông qua các cam kết về quyền lao động và tiêu chuẩn đạo đức. Ví dụ, Karya là một tổ chức phi lợi nhuận hợp tác với các tổ chức phi chính phủ địa phương để đảm bảo quyền tiếp cận công việc của mình được ưu tiên cho những cộng đồng có nhu cầu cao nhất hoặc bị thiệt thòi trong lịch sử và trả cho người lao động một khoản tiền thu được từ việc bán công việc chú thích ngoài mức lương cơ bản của họ. Cũng như mức lương công bằng hơn, những người làm việc về dữ liệu cũng mong muốn được hưởng nhiều lợi ích công cộng hơn từ công việc đại trà của họ và được trao quyền nhiều hơn trong các mối liên hệ giữa công việc của họ và việc sử dụng hạ nguồn.

Tuy nhiên, thực tế là công việc này thường không được nhìn thấy - như 'công việc ma' - khiến cho các lực lượng thị trường không thể đảm bảo rằng những người làm việc về dữ liệu trong chuỗi cung ứng của AI nền tảng được đối xử công bằng. Các tổ chức như Turkopticon, Fairwork và Dự án Kinh tế Gig tiếp tục công việc khó khăn là vận động cho người lao động và đã chuyển sự chú ý của họ sang chuỗi cung ứng dữ liệu thông qua việc đánh giá các tiêu chuẩn lao động và đưa ra các yêu cầu tập thể để cải thiện. Một trong những bên tham gia vào mạng lưới học tập ngang hàng về dữ liệu vì quyền của người lao động do Humanity United tài trợ của ODI, CNV International đã phát triển một Fair Work Monitor (Giám sát Công việc Công bằng) để tăng cường tiếng nói của người lao động thông qua việc thu thập dữ liệu kỹ thuật số. Vào năm 2021, những người lao động tại Appen, một công ty dữ liệu cộng đồng, đã bắt đầu tổ chức với một công đoàn công nghệ, cho thấy rằng sức mạnh thương lượng theo ngành và theo công ty cũng có thể là chìa khóa để đảm bảo quyền của người lao động trong chuỗi cung ứng dữ liệu.

Có một số lĩnh vực mà quyền lao động và bảo vệ dữ liệu hội tụ. Quyền bảo vệ dữ liệu có thể được sử dụng trong bối cảnh công việc và các tổ chức như Workers Info Exchange và AWO đang sử dụng luật bảo vệ dữ liệu để trao quyền cho người lao động tự do với dữ liệu về lịch sử công việc, mức lương và hạng mức của họ. Một số luật cũng trao cho người lao động quyền được giải thích về cách dữ liệu của họ được sử dụng để đưa ra quyết định tự động và khiếu nại các quyết định không công bằng gây ra bất lợi. Mặc dù những điều này chủ yếu được sử dụng bởi những người lao động nền tảng trong các lĩnh vực như gọi xe và giao hàng, nhưng chúng có thể trở thành công cụ quan trọng cho người lao động trong chuỗi cung ứng dữ liệu để giải quyết các vấn đề như ra quyết định không minh bạch, phân bổ công việc và sa thải không công bằng.

Các bước cần thực hiện

Để tránh khoảng trống thực thi quyền lao động và bảo vệ dữ liệu khi nói đến chuỗi cung ứng dữ liệu của AI nền tảng, chúng tôi khuyến nghị rằng Chính phủ Vương quốc Anh sắp tới:

• Đảm bảo rằng bất kỳ quy định dữ liệu nào trong tương lai đều phù hợp để giải quyết AI nền tảng. Như chúng tôi đã nói trong Bản tuyên ngôn chính sách gần đây của mình, 'chúng tôi tin rằng Dự luật Bảo vệ dữ liệu và Thông tin số (DPDI) là một cơ hội bị bỏ lỡ để củng cố hệ sinh thái dữ liệu.' Quy định bảo vệ dữ liệu trong tương lai phải đảm bảo rằng Ủy viên thông tin vẫn độc lập, các biện pháp bảo vệ xử lý dữ liệu được duy trì hoặc tăng cường, và Yêu cầu Truy cập của Chủ thể không trở thành tùy chọn. Tất cả những điều này sẽ giúp đảm bảo rằng dữ liệu cá nhân được bảo vệ trong chuỗi cung ứng dữ liệu đằng sau AI nền tảng.

• Nhận diện chuỗi cung ứng dữ liệu và bảo vệ toàn bộ phạm vi quyền của mọi người trong đó. Chính phủ Anh mới nên đảm bảo rằng các quy định hiện hành đang được tuân thủ và các hoạt động kém hiệu quả sẽ bị ngăn chặn trong thị trường dán nhãn dữ liệu của Anh. Quyền lao động và bảo vệ dữ liệu cũng nên là trọng tâm trong chương trình nghị sự về an toàn AI của Anh. Các chuỗi cung ứng này mang tính toàn cầu và do đó, Chính phủ Anh mới nên hợp tác quốc tế và sử dụng ảnh hưởng của mình để hỗ trợ cải thiện toàn cầu về quyền lao động và bảo vệ dữ liệu, đặc biệt là đối với người dán nhãn dữ liệu và kiểm duyệt nội dung.

• Hỗ trợ phát triển các tiêu chuẩn đạo đức trong chuỗi cung ứng dữ liệu của Anh. Hỗ trợ, củng cố và tài trợ cho các tổ chức đang thiết lập các tiêu chuẩn thực hành làm việc công bằng trong chuỗi cung ứng dữ liệu. Chính phủ Anh mới nên hỗ trợ các tổ chức Anh để bảo vệ rằng chuỗi cung ứng của họ đáp ứng các tiêu chuẩn đạo đức cao vượt ra ngoài việc tuân thủ luật bảo vệ dữ liệu và quyền lao động.

Tại ODI, chúng tôi mong muốn cung cấp thông tin chi tiết và nguồn lực cho các nhà hoạch định chính sách đang nỗ lực tạo ra một hệ thống bảo vệ dữ liệu và quyền lao động để ứng phó với AI nền tảng. Chúng tôi sẽ công bố các biện pháp can thiệp liên quan được đề xuất trong những tuần tới, tập trung vào tính khả dụng của dữ liệu và các hoạt động dữ liệu có sự tham gia.

We must avoid an enforcement gap in the process of training, fine-tuning and testing foundation AI models.

The age of foundation AI is characterised by models of large scale and high flexibility, capable of producing rich outputs. Recognising both the potential and the risks of these new models, the ODI has embarked on a programme of work on data-centric AI, designed to bring about an AI ecosystem grounded in responsible data practices. We’re exploring what policy interventions could be made to ensure these technologies are developed and deployed in ways that benefit everyone - people, communities and businesses. This is the third in a series of five pieces exploring these interventions.

How are people involved in the data supply chain?

There is significant human involvement behind the data used to train foundation AI models. People carry out tasks that computer models find it hard to replicate, such as collecting data, filtering and moderating it, and labelling it.

The global market for this type of data work was valued at $2bn in 2022 and is forecast to grow to $17bn by 2030. Most of this labour takes the form of ‘microtasks’, undertaken in low and middle-income countries. According to The Washington Post, more than two million people in the Philippines alone perform this type of work, including labelling pedestrians for automated driving algorithms, labelling photos of celebrities, and editing chunks of text to ‘ensure language models like ChatGPT don’t churn out gibberish’.

Many AI datasets will also include data about people, including names, pictures and location information. This data might have been scraped from public sources on the web, or collected and used by services we engage with – whether we use them for leisure or for work. Although definitions vary by jurisdiction, data about people is recognised in law as ‘personal data’.

While data protection and labour rights represent different perspectives and interests, we’re addressing them together in this piece. Ultimately, both involve the protection of fundamental rights and freedoms, and we see a similar risk across both areas, whereby the acceleration of foundation AI threatens the enforcement of existing protections. As we’ll discuss, there is also a useful confluence between the two emerging.

There are some topics we’re not going to address here. An expanded view of labour rights and AI supply chains would also include non-data workers, such as those mining for minerals used in computer components, but we’re conscious of our limited expertise in this area. And we address intellectual property in the context of training AI models in a separate post in this series.

Why are labour rights and data protection important in the context of foundation AI?

There are a number of risks to labour conditions and rights in the data supply chain.

First, data workers can be exposed to disturbing images and violent language. A worker with more than seven years in crowdwork described how, despite their exposure to graphic suicide content, received no content warnings, no counselling and no suicide hotline.

Workers also have a right to a standard of living and social security. However, a Time magazine investigation in 2023 found that AI workers in Kenya had been paid less than $2 per hour, and, being classified as independent contractors, lack social security protections like health insurance, pension contributions, and paid leave. There have also been accusations of union busting and mass layoffs following a 2019 strike. This precarity – combined with exposure to extreme content for moderation – has led to a mental health crisis amongst some Kenyan data workers. Another investigation of data annotation companies described a system where high-profit margins were prioritised over workers rights and safety. Other investigations have found data labelling work being carried out by minors.

Data workers tend to have limited access to effective remedy and grievance redressal. In some cases, firms remain anonymous, disappear and reappear frequently, making it incredibly hard to monitor and block bad actors. An Aapti report for the UNDP has described how workers can be penalised and locked out of systems following lower ratings.

These risks to labour rights are relevant to any UK organisation that uses AI models that have been trained elsewhere. But given the lack of transparency around the data used to train many of the popular AI models, organisations may not even be aware of how reliant on this labour they are.

From a data protection perspective, foundation AI models risk widening The Data Protection Enforcement Gap, whereby the stringency of regulations around personal data, on paper, is not matched by the practices of organisations in the real world. For example, foundation AI models are trained using vast amounts of data scraped from across the web, with many model developers appearing to think that any public data is fair game. As a result, twelve national data protection agencies, including the UK’s Information Commissioner's Office, published a joint statement to clarify that the mass scraping of personal information from the web to train AI can constitute a reportable data breach in many jurisdictions.

Many firms are now also changing their terms of service to enable them to use data generated by users to train new AI models. Meta has recently announced changes to its privacy policy, believing that it has a legitimate interest to override users' data protection rights in order to develop ‘artificial intelligence technology’. Max Schrems, a data protection activist and lawyer has criticised these changes for their vagueness and said that 'this is clearly the opposite of [data protection] compliance’.

And while the focus is largely on the inclusion of personal data in training foundation AI, there may be further data protection challenges downstream. Researchers have shown that it’s possible to cause ChatGPT to ‘leak’ data that its underlying model has been trained on.

Current policy status in the UK and elsewhere

In March 2023, the Italian data protection authority temporarily suspended the use of ChatGPT over concerns about the processing of personal data to train the system. This ban was lifted, before the Italian authorities found further data privacy violations in January 2024. In the US, a Californian lawsuit has claimed that OpenAI’s foundational models have been illegally trained on private conversations, medical data and information about children.

The announcement of the 2024 General Election curtailed the passing of the UK’s new Data Protection and Digital Information (DPDI) Bill through the legislative process. The ODI previously shared our disappointment that the proposed Bill would weaken transparency, rights, and protections.

There has been little said by the UK Government about the data supply chain for AI models, or about the country’s own data labelling industry. Although the largest markets are located in low-wage economies, there are some firms based in the UK – such as Prolific and Snorkel AI.

UK organisations in both the public and private sectors are now using pre-trained models, where data work, such as labelling, training, and testing, has already been completed. However, the complex supply chains involved in data labelling and safety testing for these off-the-shelf models can be far from transparent to these organisations.

In May 2024, 97 data labellers, content moderators and other data workers in Kenya wrote to President Biden to argue that 'US Big Tech companies are systematically abusing and exploiting African workers… [by] undermining the local labor laws, the country’s justice system and violating international labor standards'. The letter says that Kenya needs these jobs, but not at any cost.

In April 2024, the European Parliament adopted a new directive to improve the working conditions of platform workers (including data workers). The Directive brings in new rights for workers, including a presumption of employment, the prevention of algorithmic management decisions (such as hiring and firing), and greater transparency and personal data protections.

Proposals from civil society, industry and other non-government actors

We’re beginning to see some data labelling firms differentiate themselves through commitments to labour rights and ethical standards. Karya, for example, is a non-profit that partners with local NGOs to ensure access to its jobs goes first to the most in need or historically marginalised communities, and pays workers a proceeds of the sales of annotation work on top of their basic wages. As well as fairer compensation, data workers also desire more public benefit from their crowd work, and a greater empowerment in the connections between their work and downstream use.

However, the fact that this labour is so often unseen – as ‘ghost work’ – makes it unlikely that market forces alone will ensure that data workers in the supply chain of foundation AI are treated fairly. Organisations like Turkopticon, Fairwork and the Gig Economy Project continue the hard work of advocating for workers, and have turned their attention to the data supply chain through assessing labour standards and making collective demands for improvements. One of the participants in the ODI’s Humanity United-funded data for workers’ rights peer-learning network, CNV International has developed a Fair Work Monitor to strengthen the voice of workers through digital data collection. In 2021, workers at Appen, a crowdsourced data firm, began to organise with a technology union, showing that sectoral and company-based bargaining power could also be key to securing worker’s rights in the data supply chain.

There are some areas where labour rights and data protection converge. Data protection rights can be used in a work context, and organisations like Workers Info Exchange and AWO are using data protection laws to empower gig workers with data about their job histories, pay and rankings. Some laws also give workers a right to an explanation of how their data is used for automated decision making and to challenge unfair decisions that have caused detriment. While these are primarily being used by platform workers in sectors such as ride hailing and delivery, they could become important tools for workers in the data supply chain to address issues like opaque decision making, unfair work allocation and dismissals.

Steps to take

To avoid a labour rights and data protection enforcement gap when it comes to the data supply chain of foundation AI, we recommend that the incoming UK Government:

• Ensure that any future data regulation is fit to address foundation AI. As we said in our recent Policy Manifesto, ‘we believe the Data Protection and Digital Information (DPDI) Bill is a missed opportunity to strengthen the data ecosystem.’ Future data protection regulation should ensure that the Information Commissioner remains independent, data processing safeguards are maintained or enhanced, and Subject Access Requests do not become optional. These will all help to ensure that personal data is protected in the data supply chains behind foundation AI.

• Recognise data supply chains and protect the full scope of people’s rights within them. The incoming UK Government should ensure that existing regulations are being followed and poor practices are stopped within the UK’s data labelling market. Labour rights and data protection should also be central to the UK's AI safety agenda. These supply chains are global, and thus the incoming UK Government should cooperate internationally and use its influence to support global improvements in labour rights and data protection, particularly for data labelling and content moderation workers.

• Support the development of ethical standards in the UK's data supply chains. Support, strengthen and fund organisations who are setting just standards working practices within data supply chains. The incoming UK Government should support UK organisations to safeguard that their supply chains meet high ethical standards that stretch beyond compliance with data protection and labour rights laws.

At the ODI, we’re keen to provide insights and resources to policymakers working towards creating a system that protects data and labour rights in response to foundation AI. We will publish related proposed interventions in the coming weeks, focusing on the availability of data and participatory data practices.

Dịch: Lê Trung Nghĩa

letrungnghia.foss@gmail.com

Can thiệp chính sách 2: Cập nhật chế độ sở hữu trí tuệ của chúng ta để đảm bảo các mô hình AI được đào tạo công bằng

Policy intervention 2: Update our intellectual property regime to ensure AI models are trained fairly

Chúng ta cần một hệ thống công nhận và khen thưởng cho tính sáng tạo của con người, và dẫn dắt nghiên cứu và đổi mới mới.

Thu Jun 13, 2024

Theo: https://theodi.org/news-and-events/blog/policy-intervention-2-update-our-intellectual-property-regime-to-ensure-ai-models-are-trained-fairly/

Bài được đưa lên Internet ngày: 13/07/2024

Thời đại của AI nền tảng được đặc trưng bởi các mô hình có quy mô lớn và tính linh hoạt cao, có khả năng tạo ra đầu ra phong phú. Nhận thức được cả tiềm năng và rủi ro của các mô hình mới này, ODI đã bắt tay vào một chương trình làm việc về AI lấy dữ liệu làm trung tâm, được thiết kế để tạo ra một hệ sinh thái AI dựa trên các hoạt động dữ liệu có trách nhiệm. Chúng tôi đang khám phá những can thiệp chính sách nào có thể được thực hiện để đảm bảo các công nghệ này được phát triển và triển khai theo cách có lợi cho tất cả mọi người - con người, các cộng đồng và các doanh nghiệp. Đây là bài thứ hai trong loạt năm bài khám phá các can thiệp này.

Sở hữu trí tuệ là gì và nó liên quan như thế nào tới việc đào tạo các mô hình AI?

Sở hữu trí tuệ đề cập đến các phát minh, thiết kế, tác phẩm nghệ thuật và các 'sáng tạo của trí óc' khác.

Luật sở hữu trí tuệ được thiết kế để cho phép mọi người kiếm được sự công nhận hoặc lợi ích tài chính từ những thứ họ tạo ra. Mặc dù luật pháp khác nhau trên toàn thế giới, nhưng hầu hết các chế độ đều tìm cách cân bằng lợi ích của người sáng tạo với lợi ích của công chúng nói chung.

Các nhà lập pháp nhận ra các kịch bản mà mọi người có thể sử dụng sở hữu trí tuệ của người khác một cách khá thoải mái. Khai thác văn bản và dữ liệu là một trong số đó. Nó bao gồm việc biên soạn một lượng lớn số liệu, văn bản và hình ảnh, thường là từ khắp nơi trên web, để tiết lộ những hiểu biết mới. Do tầm quan trọng của nó trong việc giải quyết kiểm duyệt và gian lận trên web, cũng như các nghiên cứu khác, nhiều quyền tài phán đã đưa ra các loại trừ đối với luật sở hữu trí tuệ để cho phép thực hiện khai thác văn bản và dữ liệu.

Nhưng trong khi nội dung của web đã bị thu thập trong nhiều thập kỷ và các loại trừ khai thác văn bản và dữ liệu đã được áp dụng, thì AI nền tảng đã gây sốc cho hệ thống sở hữu trí tuệ.

Trong bài viết này, chúng tôi chủ yếu tập trung vào văn bản, hình ảnh, âm thanh, video và tác phẩm nghệ thuật được phân phối rộng rãi trên web. Chúng tôi sẽ nói về các loại dữ liệu khác và về các tập dữ liệu mới được xây dựng riêng để đào tạo các mô hình AI trong một bài viết sau trong loạt bài này. Ngoài ra, trọng tâm của chúng tôi ở đây là về sở hữu trí tuệ trong quá trình đào tạo các mô hình AI, thay vì cách sở hữu trí tuệ có khả năng tiềm tàng áp dụng cho nội dung do AI tạo ra.

Tại sao sở hữu trí tuệ lại quan trọng trong bối cảnh AI nền tảng?

Các công ty AI đưa ra các lập luận khác nhau về lý do tại sao việc thu thập dữ liệu để đào tạo AI nên được phép. Những lập luận này bao gồm lý do cho rằng quy mô của các tập dữ liệu đào tạo hiện đại khiến việc đàm phán cấp phép trở nên bất khả thi hoặc lý do đằng sau hành động loại trừ việc khai thác văn bản và dữ liệu vẫn không thay đổi.

Nhiều người không đồng tình. Một số chủ sở hữu bản quyền lớn đã đưa các công ty AI ra tòa vì cách họ đào tạo mô hình của mình, một số yêu cầu bồi thường thiệt hại tài chính đáng kể hoặc thậm chí là phá hủy chúng. Ví dụ, Getty Images đang kiện Stability AI vì cáo buộc đào tạo mô hình AI của mình trên hơn 12 triệu bức ảnh mà không được phép hay đền bù. Vào tháng 7 năm 2023, tác giả Sarah Silverman đã kiện OpenAI vì sử dụng tập dữ liệu Books3 bao gồm các tác phẩm viết của hàng nghìn tác giả. Cùng thời điểm đó, một bức thư được hơn 8.000 tác giả ký tên lập luận rằng "hàng triệu cuốn sách, bài báo, tiểu luận và thơ có bản quyền cung cấp 'thức ăn' cho các hệ thống AI, những bữa ăn vô tận mà không có hóa đơn nào". Một cuộc khảo sát do Hiệp hội tác giả thực hiện cho thấy 90% các nhà văn tin rằng họ nên được đền bù nếu tác phẩm của họ được sử dụng để đào tạo các mô hình AI.

Việc đào tạo các mô hình dựa trên nội dung của web đã gây ra rạn nứt ngay cả trong các cộng đồng có ý định để các tác phẩm của họ được tiêu thụ rộng rãi. Trong năm 2023, nhiều diễn đàn lớn nhất của Reddit đã bị làm cho 'tối đen' để phản đối các kế hoạch của nền tảng này nhằm cho phép các nhà phát triển AI truy cập vào khối lượng lớn các thảo luận trên diễn đàn mà họ đã đóng vai trò quan trọng trong việc tạo ra chúng. Những người đóng góp cho Stack Overflow, một diễn đàn Internet dành cho các nhà phát triển, đã bị cấm khỏi trang web này sau khi họ xóa nội dung của mình để ngăn chặn việc sử dụng nội dung đó để đào tạo ChatGPT.

Do đó, cải cách chế độ sở hữu trí tuệ của Vương quốc Anh là chìa khóa để mang lại lợi ích của hệ sinh thái dữ liệu AI cho tất cả mọi người, cũng như đảm bảo chúng ta không bước vào "mùa đông dữ liệu". Theo Henry Farrell, "nếu bạn muốn Mô hình Ngôn ngữ Lớn - LLM (Large Language Model) có giá trị lâu dài, bạn cần phải có một hệ thống xã hội đi kèm, trong đó con người tiếp tục sản xuất kiến thức, nghệ thuật và thông tin khiến chúng trở nên có giá trị. Các hệ thống sở hữu trí tuệ không có động lực để sản xuất kiến thức có giá trị của con người sẽ khiến LLM ngày càng trở nên vô giá trị theo thời gian".

Tình hình chính sách hiện tại ở Vương quốc Anh và những nơi khác

Các nhà lập pháp về sở hữu trí tuệ đang phản ứng với AI nền tảng theo những cách khác nhau.

Một số quốc gia đang cố gắng tạo ra một chế độ cho phép đào tạo mô hình. Ví dụ, Đạo luật Bản quyền của Singapore được mô tả là "định vị Singapore như một trung tâm hấp dẫn cho các nhà phát triển AI". Những quốc gia khác quan tâm nhiều hơn đến việc tăng cường - hoặc ít nhất là thực thi - các biện pháp bảo vệ và kiểm soát của chủ sở hữu quyền hiện có. Tại EU, Chỉ thị về Bản quyền trong Thị trường Kỹ thuật số Đơn nhất cho phép khai thác văn bản và dữ liệu chỉ cho mục đích nghiên cứu khoa học và chủ sở hữu quyền có thể chọn không cho phép sử dụng tác phẩm của họ cho mục đích đào tạo AI thương mại. Đạo luật AI mới nêu rõ rằng bất kỳ công ty nào đưa mô hình AI mục đích chung vào thị trường EU đều phải tuân thủ đạo luật này, bất kể mô hình của họ được đào tạo ở đâu.

Vương quốc Anh dường như không chắc chắn phải làm gì về vấn đề này. Quay trở lại năm 2014, Chính phủ Vương quốc Anh đã đưa ra một ngoại lệ cho phép khai thác văn bản và dữ liệu chỉ dành cho "nghiên cứu phi thương mại". Năm 2020, Chính phủ Vương quốc Anh cho biết họ có ý định tách khỏi EU để cho phép khai thác văn bản và dữ liệu tại Vương quốc Anh cho bất kỳ mục đích nào, trên cơ sở rằng những thay đổi này có thể "giúp Vương quốc Anh cạnh tranh hơn với tư cách là một địa điểm cho các công ty khai thác dữ liệu". Sau khuyến nghị của Ngài Patrick Vallance rằng mối quan hệ giữa sở hữu trí tuệ và các hình thức AI mới cần được làm rõ, Chính phủ Vương quốc Anh đã lùi bước và thay vào đó bắt đầu làm việc với các nhà xuất bản và nhà phát triển AI để thống nhất về một "bộ quy tắc thực hành". Tuy nhiên, vào tháng 2 năm 2024, Chính phủ Vương quốc Anh kết luận rằng "nhóm làm việc sẽ không thể thống nhất về một bộ quy tắc tự nguyện có hiệu lực".

Gần đây hơn, Ủy ban Khoa học, Đổi mới và Công nghệ của Hạ viện đã kết luận rằng một chính phủ hướng nội nên kết thúc các cuộc thảo luận này, đề xuất một giải pháp tài chính cho "các hành vi vi phạm trong quá khứ của các nhà phát triển AI" cũng như một khung cấp phép mới và thẩm quyền của chính phủ để giám sát nó.

Đề xuất từ xã hội dân sự, giới công nghiệp và các tác nhân phi chính phủ khác

Ở một mức độ nào đó, thị trường đang bắt đầu phản ứng. Những người nắm giữ bản quyền lớn - bao gồm các hãng tin tức, hãng thu âm, hãng phim - đã có động thái thực hiện các thỏa thuận cấp phép với các công ty AI. Riêng OpenAI đã ký các thỏa thuận với Associated Press, Shutterstock và Axel Springer. Thỏa thuận của Google với Reddit để truy cập vào dữ liệu diễn đàn của mình được cho là trị giá 60 triệu đô la mỗi năm. Các nhà phát triển mô hình KL3M đưa ra một điểm bán hàng để thể hiện là nó được đào tạo trên 'một tập dữ liệu đào tạo được giám tuyển gồm các tài liệu pháp lý, tài chính và quy định', dành cho các khách hàng 'không muốn bị lôi kéo vào các vụ kiện về sở hữu trí tuệ như OpenAI, Stability AI và những công ty khác đã từng bị'. Fairly Trained là một tổ chức phi lợi nhuận mới được thành lập để chứng nhận rằng các công ty AI đã đào tạo các mô hình của họ dựa trên nội dung được cấp phép.

Nhưng rốt cuộc ai sẽ hưởng lợi từ một hệ sinh thái AI phụ thuộc vào việc cấp phép tốn kém? Clement Delangue, CEO của Hugging Face, đã gợi ý rằng 'nếu chúng ta kết thúc trong một hệ thống mà bạn chỉ có thể đào tạo các mô hình AI tốt dựa trên dữ liệu được cấp phép $$, thì sẽ có nguy cơ có sự tập trung quyền lực rất lớn. Có thể không phải người dùng, nghệ sĩ hoặc người sáng tạo nội dung sẽ được hưởng lợi từ điều này mà là các công ty lớn và hãng phim Hollywood sẽ giao dịch quyền của họ và không phân phối lại'. Theo Sáng kiến Nguồn mở, một hệ sinh thái AI phụ thuộc quá nhiều vào việc cấp phép có thể trở nên kém đa dạng và cạnh tranh hơn, vì các công ty nhỏ và các học giả không có đủ khả năng tài chính để ra tòa hoặc ký kết các thỏa thuận song phương để cấp phép cho dữ liệu.

Ngoài ra còn có các nỗ lực mới nhằm tạo ra các cơ chế cho những người nắm giữ quyền nhỏ hơn, cá nhân riêng lẻ kiểm soát cách sử dụng các tác phẩm của họ. Đôi khi được mô tả là 'các mức đồng ý cho AI' hoặc 'dấu hiệu ưu tiên', chúng bao gồm các giao thức xuất bản web mới (ví dụ: Giao thức Đặt chỗ Khai thác Dữ liệu và Văn bản của W3C), các công cụ kỹ thuật (ví dụ: Nightshade) và giấy phép dữ liệu (ví dụ: Giấy phép Dữ liệu Mở Chung - [Open Data Commons Licences]).

Mặc dù những điều này có thể hiệu quả với một số nhà xuất bản nhất định, nhưng chúng ta không thể dựa vào chúng để giải quyết câu đố về sở hữu trí tuệ. Như Arvind Narayanan đã lập luận, 'quyền từ chối là một cơ chế quản lý không hiệu quả. Các vấn đề về cấu trúc với mô hình kinh doanh của các công ty AI tạo sinh (Generative AI) — và bối cảnh pháp lý khiến chúng trở nên khả thi — không thể được giải quyết bằng cách bắt cá nhân phải xóa từng hình ảnh của họ'. Creative Commons đã bày tỏ lo ngại rằng 'nếu các dấu hiệu ưu tiên được triển khai rộng rãi chỉ để hạn chế [việc sử dụng dữ liệu], thì đó có thể là tổn thất ròng cho các tài sản chung... những dấu hiệu này có thể được sử dụng theo cách hạn chế quá mức đối với việc thể hiện'.

Các bước cần thực hiện

Chúng tôi nhận thức rằng Chính phủ Anh sắp nhậm chức sẽ ở trong tình thế khó khăn. Họ sẽ muốn Vương quốc Anh tiếp tục được coi là nơi phát triển AI, điều này đòi hỏi một chế độ bản quyền khá dễ dãi, nhưng họ cũng sẽ phải bảo vệ lợi ích của các ngành công nghiệp sáng tạo quan trọng của chúng ta.

Để hiện đại hóa chế độ sở hữu trí tuệ của Vương quốc Anh, chúng tôi khuyến nghị rằng Chính phủ Anh sắp nhậm chức:

• Tránh đạt được một giải pháp chung cho tất cả. Chúng ta không được hướng tới một tương lai mà các quy tắc áp dụng cho âm nhạc hoặc nghệ thuật được ghi âm cũng được áp dụng cho các bài báo khoa học và dữ liệu được sử dụng cho nghiên cứu y khoa. "Một chuyện là để chủ sở hữu bản quyền của một bản ghi âm nhạc phổ biến từ chối tham gia cơ sở dữ liệu; một chuyện khác là để một bài báo khoa học quan trọng bị bỏ qua do tranh chấp cấp phép". Trong khi hệ thống sở hữu trí tuệ của Vương quốc Anh nên công nhận và khen thưởng cho sự thể hiện của con người trong thời đại của AI nền tảng, bao gồm thông qua các phương pháp tiếp cận mới cho việc đánh tín hiệu ưu tiên, Chính phủ Vương quốc Anh mới nên làm rõ phạm vi của các ngoại lệ khai thác dữ liệu và văn bản của mình. Cũng không nên quên tầm quan trọng của các chính sách dữ liệu mở và truy cập mở để thúc đẩy khoa học, đổi mới và kiến thức.

• Hỗ trợ quản trị tập thể, thương lượng và quản lý quyền. Vương quốc Anh có một số Tổ chức quản lý tập thể quản lý sở hữu trí tuệ thay mặt cho các ngành công nghiệp sáng tạo khác nhau. Các tổ chức này có thể được giao nhiệm vụ rõ ràng và được hỗ trợ để đàm phán với các nhà phát triển AI trong tương lai. Cách tiếp cận này có thể vay mượn từ những diễn biến ở nơi khác, chẳng hạn như chương trình cấp phép mới của Singapore dành cho Tổ chức Quản lý Tập thể và đề xuất của Quốc hội Pháp về việc các công ty AI phải trả thuế cho Tổ chức Quản lý Tập thể khi họ xây dựng thứ gì đó bằng "các tác phẩm có nguồn gốc không xác định".

• Tìm kiếm sự thống nhất. Với bản chất toàn cầu của quá trình phát triển mô hình nền tảng, Chính phủ Anh sắp tới sẽ cần cập nhật chế độ sở hữu trí tuệ theo cách thống nhất với với các quyền tài phán khác. Chính phủ nên thực hiện điều này thông qua sự tham gia của Văn phòng Sở hữu trí tuệ Thế giới cũng như các nhóm khác đang thúc đẩy sự phát triển trong lĩnh vực này, chẳng hạn như công việc của Đối tác toàn cầu về AI nhằm chuẩn hóa các điều khoản cấp phép dữ liệu và Hội đồng thống nhất về AI và Commons của OpenFuture. Một lĩnh vực mà sự hợp tác và hài hòa với các quốc gia khác sẽ đặc biệt quan trọng là việc tiêu chuẩn hóa các cách thức các nhà xuất bản có thể bày tỏ liệu họ có hài lòng khi các tác phẩm của mình được sử dụng để đào tạo các mô hình hay không.

Tại ODI, chúng tôi mong muốn cung cấp thông tin chi tiết và nguồn lực cho các nhà hoạch định chính sách đang nỗ lực tạo ra một chế độ sở hữu trí tuệ công bằng để ứng phó với AI nền tảng.

Chúng tôi cũng sẽ công bố thêm các lập luận liên quan về sự can thiệp của chính sách trong những tuần tới, tập trung vào bảo vệ dữ liệu, tính sẵn sàng của các tập dữ liệu đào tạo AI phạm vi rộng có cấu trúc hơn và các hoạt động dữ liệu có sự tham gia.

We need a system that recognises and rewards human creativity, and drives new research and innovation.

The age of foundation AI is characterised by models of large scale and high flexibility, capable of producing rich outputs. Recognising both the potential and the risks of these new models, the ODI has embarked on a programme of work on data-centric AI, designed to bring about an AI ecosystem grounded in responsible data practices. We’re exploring what policy interventions could be made to ensure these technologies are developed and deployed in ways that benefit everyone - people, communities and businesses. This is the second in a series of five pieces exploring these interventions.

What is intellectual property and how does it relate to training AI models?

Intellectual property refers to inventions, designs, artistic works and other ‘creations of the mind’.

Intellectual property laws are designed to enable people to earn recognition or financial benefit from the things they create. While laws are different across the world, most regimes seek to balance the interests of creators with the interests of the wider public.

Lawmakers recognise scenarios where people should be able to use the intellectual property of others quite permissively. Text and data mining is one of those. It involves compiling vast amounts of numbers, text and images, often from across the web, to reveal new insights. Given its importance for tackling web censorship and fraud, as well as other research, many jurisdictions have introduced exclusions to intellectual property laws that allow for text and data mining to be undertaken.

But while the web’s content has been scraped for decades, and text and data mining exclusions are in place, foundation AI has provided a shock to the intellectual property system.

In this article we’re focusing primarily on text, images, audio, video and artworks that are widely distributed on the web. We’ll talk about other types of data and about new datasets that are built specifically to train AI models in a later article in this series. Also, our focus here is on intellectual property during the training of AI models, rather than on how intellectual property would potentially apply to AI-generated content.

Why is intellectual property important in the context of foundation AI?

AI firms make different arguments as to why data scraping for AI training should be permitted. These include the reasoning that the scale of modern training datasets makes licensing negotiation impossible, or that the rationale behind text and data mining exclusions remains unchanged.

Many disagree. A number of large rights holders have taken AI firms to court over the way they have trained their models, with some seeking significant financial damages or even their destruction. Getty Images, for example, is suing Stability AI for allegedly training its AI model on more than 12 million of its photos without permission or compensation. In July 2023, the author Sarah Silverman sued OpenAI over its use of the Books3 dataset that includes the written works of thousands of authors. Around the same time, a letter was signed by more than 8,000 authors that argued 'millions of copyrighted books, articles, essays, and poetry provide the ‘food’ for AI systems, endless meals for which there has been no bill'. A survey run by the Authors Guild found that 90% of writers believe they should be compensated if their work is used to train AI models.

The training of models on the web’s content has caused rifts even among communities who intended for their works to be widely consumed. During 2023, many of Reddit’s biggest forums ‘went dark’ in protest over the platform’s plans to enable AI developers to access the mass of forum conversations they’d played a vital role in creating. Contributors to Stack Overflow, an internet forum for developers, have been banned from the site after they deleted their content in order to stop it being used to train ChatGPT.

Reforming the UK’s intellectual property regime is therefore key to making the AI data ecosystem benefit everyone, as well as ensuring we don’t enter a ‘data winter’. As put by Henry Farrell, 'if you want LLMs to have long term value, you need to have an accompanying social system in which humans keep on producing the knowledge, the art and the information that makes them valuable. Intellectual property systems without incentives for the production of valuable human knowledge will render LLMs increasingly worthless over time'.

Current policy status in the UK and elsewhere

Intellectual property lawmakers are responding to foundation AI in different ways.

Some nations are trying to create a permissive regime for model training. Singapore’s Copyright Act, for example, has been described as 'positioning Singapore as an attractive hub for AI developers'. Others are more interested in strengthening - or at least enforcing existing - rights holder protections and controls. In the EU, the Directive on Copyright in the Digital Single Market allows for text and data mining for scientific research purposes only, and rights holders can choose to opt out of their works being used for commercial AI training. The new AI Act says that any firm placing a general purpose AI model on the EU market must comply with this, regardless of where their models were trained.

The UK seems unsure what to do on this issue. Back in 2014, the UK Government introduced an exception that allows text and data mining for ‘non-commercial research’ only. In 2020, the UK Government said it intended to diverge from the EU to allow text and data mining in the UK for any purpose, on the basis that the changes could “help make the UK more competitive as a location for firms doing data mining”. Following Sir Patrick Vallance’s recommendation that the relationship between intellectual property and new forms of AI should be clarified, the UK Government backtracked and instead set out to work with publishers and AI developers to agree a ‘code of practice’. However, in February 2024, the UK Government concluded that 'the working group will not be able to agree on an effective voluntary code'.

More recently, the House of Commons Science, Innovation and Technology Committee concluded that an inbound government should bring these discussions to a close, suggesting a financial settlement for ‘past infringements by AI developers’ as well as a new licensing framework and government authority to oversee it.

Proposals from civil society, industry and other non-government actors

To some extent, the market is beginning to respond. Large rights holders - including news outlets, music labels, movie studios - have moved to make licensing deals with AI firms. OpenAI alone has signed deals with Associated Press, Shutterstock and Axel Springer. Google’s deal with Reddit for access to its forum data is said to be worth $60m per year. The developers of the model KL3M make a selling point that is was trained on 'a curated training dataset of legal, financial, and regulatory documents’, for clients that 'didn’t want to get dragged into lawsuits about intellectual property as OpenAI, Stability AI, and others have been'. Fairly Trained is a new non-profit created to certify that AI companies have trained their models on licensed content.

But who will ultimately benefit from an AI ecosystem that relies on costly licensing? Clement Delangue, the CEO of Hugging Face, has suggested that 'if we end up in a system where you can only train good AI models on $$ licensed data, there's a massive risk of concentration of power. It might not be the users, artists, or content creators who will benefit from this but big companies and Hollywood studios who will trade their rights and not redistribute'. According to the Open Source Initiative, an AI ecosystem overly reliant on licensing may end up less diverse and competitive, as small firms and academics do not have the financial means to go to court or enter into bilateral agreements to licence data.

There are also new efforts to create mechanisms for smaller, individual rights holders to control how their works are used. Sometimes described as ‘consent layers for AI’ or ‘preference signalling’, these consist of new web publishing protocols (eg W3C’s Text and Data Mining Reservation Protocol), technical tools (eg Nightshade) and data licences (eg Open Data Commons Licences).

While these may work for certain publishers, we can’t rely on them to solve the intellectual property conundrum. As Arvind Narayanan has argued, 'opt-outs are an ineffective governance mechanism. The structural problems with generative AI companies' business models — and the legal landscape that makes them possible — can't be solved by burdening individuals to withdraw their images one by one’. Creative Commons has expressed concern that 'if preference signals are broadly deployed just to limit [the use of data], it could be a net loss for the commons... these signals may be used in a way that is overly limiting to expression'.

Steps to take

We’re conscious that an incoming UK Government will be in a difficult position. It will want the UK to continue to be seen as a place for AI development, which would require a fairly permissive copyright regime, but it will also have the interests of our significant creative industries to protect.

To modernise the UK’s intellectual property regime, we recommend that the incoming UK Government:

• Avoids reaching for a one-size-fits-all solution. We mustn’t work towards a future where the rules that apply to recorded music or art also carry over to the scientific papers and data used for medical research. ‘It’s one thing to have the copyright holder of a popular music recording opt out of a database; it’s another if an important scientific paper is left out over licensing disputes’. While the UK’s intellectual property system should recognise and reward human expression in the age of foundation AI, including through new approaches to preference signalling, the incoming UK Government should clarify the scope of its text and data mining exceptions. Nor should it lose sight of the importance of open data and open access policies to driving science, innovation and knowledge.

• Supports collective governance, bargaining and rights management. The UK has a number of Collective Management Organisations that manage the intellectual property on behalf of different creative industries. These institutions could be explicitly charged with and supported to negotiate with AI developers going forward. This approach could borrow from developments elsewhere, such as Singapore’s new licensing scheme for Collective Management Organisations, and the French National Assembly’s proposal for AI firms to pay a tax to a Collective Management Organisation when they build something using ‘works of an unidentified origin'.

• Seeks alignment. Given the global nature of foundation model development, the incoming UK Government will need to update its intellectual property regime in ways that align with other jurisdictions. It should do this through engagement with the World Intellectual Property Office, as well as other groups that are driving developments in this field, such as the Global Partnership for AI’s work to standardise data licensing terms and OpenFuture’s Alignment Assembly on AI and the Commons. One area where cooperation and harmonisation with other nations will be particularly important is in standardising the ways that publishers can express whether they’re happy for their works to be used to train models.

At the ODI, we’re keen to provide insights and resources to policymakers working towards creating a fair intellectual property regime in response to foundation AI.

We will also publish further, related arguments for policy intervention in the coming weeks, focusing on data protection, the availability of more structured AI-scale training datasets and participatory data practices.

Dịch: Lê Trung Nghĩa

letrungnghia.foss@gmail.com