Attribution in the Age of AI
Posted 24 July 2026 by Jack Hardinges, Irina Bejan
Theo: https://creativecommons.org/2026/07/24/attribution-in-the-age-of-ai/
Bài được đưa lên Internet ngày: 24/07/2026
Ghi nhận nguồn gốc là cơ chế cho phép một mẩu kiến thức hoặc tác phẩm sáng tạo được kết nối với những người đã tạo ra nó. Khi các hệ thống AI tạo ra đầu ra mà không có nguồn gốc, kết nối đó bị phá vỡ, khiến việc tin tưởng thông tin, xác minh tính chính xác hoặc ghi nhận công lao trở nên khó khăn hơn. Vào tháng 3, chúng tôi đã phát hành "Ghi nhận nguồn gốc và đầu ra của AI" (bản dịch sang tiếng Việt), một bản tóm tắt vấn đề xem xét lý do tại sao việc ghi nhận nguồn gốc trong các hệ thống AI thường khó thực hiện chính xác. Các tác giả Jack Hardinges (Creative Commons) và Irina Bejan (OpenMined) đã đi sâu hơn vào câu hỏi này, và lập luận rằng những khoảng trống trong việc ghi nhận nguồn gốc không phải là tác dụng phụ không thể tránh khỏi của cách thức AI hoạt động. CC cho rằng đây là một bước quan trọng tiếp theo trong cuộc thảo luận này.
Giới thiệu
Việc ghi nhận nguồn gốc luôn là nền tảng của việc làm việc với sự sáng tạo và kiến thức của người khác.
Như Creative Commons nhắc nhở chúng ta, (bản dịch sang tiếng Việt) việc thực hành ghi nhận nguồn gốc phục vụ nhiều chức năng quan trọng, từ việc cung cấp bằng chứng có thể kiểm chứng cho một tuyên bố, đến việc thể hiện sự tôn trọng đối với công việc của người khác, và tạo ra các con đường cho lưu lượng truy cập và giá trị tài chính được lưu chuyển.
Mặc dù tầm quan trọng của việc ghi nhận nguồn gốc, nhiều hệ thống AI hiện nay lại không thừa nhận các nguồn kiến thức và sự sáng tạo đã tạo nên chúng.
Một nghiên cứu gần đây do Dự án Tiết lộ AI (AI Disclosures Project) dẫn dắt cho thấy hơn 30% phản hồi của các Mô hình ngôn ngữ lớn (LLM) hỗ trợ tìm kiếm hàng đầu không cung cấp bất kỳ sự ghi nhận nào. Ngay cả khi việc ghi nhận nguồn gốc được cung cấp, nó vẫn có thể bị hạn chế theo những cách thức ẩn khuất đối với người dùng và những thách thức kỹ thuật sâu sắc vẫn tồn tại trong việc kết nối kết quả đầu ra từ AI với các nguồn mà chúng được tạo ra.
Mặc dù vậy, chúng tôi tin rằng có nhiều lý do chính đáng để lạc quan rằng hệ thống AI có thể ghi nhận nguồn gốc mà chúng sử dụng. Không hoàn hảo và không phải luôn luôn, nhưng đủ và ngày càng cải thiện, đến mức chúng ta nên bác bỏ lập luận rằng việc thiếu ghi nhận nguồn gốc là một tác dụng phụ không thể tránh khỏi trong cách hoạt động của công nghệ. Tài sản chung không nhất thiết phải trở thành “chất nền ẩn”.
Lưu ý về thuật ngữ
Trong bài đăng này, chúng tôi hiểu ghi nhận nguồn gốc là thực hành kết nối một chế tác (artifact) với các nguồn dữ liệu được sử dụng để tạo ra nó. Điều này là cố ý rộng rãi. Như chúng tôi giải thích, hệ thống AI có thể thực hành các hình thức ghi nhận khác nhau đối với việc ghi nhận nguồn gốc cho các mục đích khác nhau và hữu ích. Chúng tôi không coi việc ghi nhận nguồn gốc là một yêu cầu hoặc điều kiện pháp lý cụ thể. Chúng tôi cũng sử dụng “hệ thống AI” một cách rộng rãi, vì hầu hết những gì chúng tôi thảo luận đều áp dụng cho nhiều mô hình và công nghệ xung quanh (mặc dù một số phương pháp chủ yếu áp dụng cho các hệ thống tạo đầu ra văn bản).
Lý do để lạc quan
1. Hệ thống AI đã phát triển theo những cách hỗ trợ việc ghi nhận nguồn gốc.
Làn sóng đầu tiên của các công cụ dựa trên LLM về cơ bản là các giao diện người dùng thực hiện lệnh gọi đến một mô hình tĩnh, được đào tạo trước (hoặc “trình bao bọc ChatGPT mỏng” - thin ChatGPT wrappers). Đầu ra từ những công cụ này là một chức năng của bất kỳ thứ gì mà mô hình đã được thể hiện trong quá trình đào tạo mà không có quyền truy cập trực tiếp vào các nguồn.
Điều này đã thay đổi nhanh chóng. Giờ đây, các kiến trúc như tạo sinh tăng cường truy xuất - RAG (Retrieval Augmented Generation) cho phép các hệ thống AI thu thập dữ liệu mới (ví dụ như các trang web hoặc tệp của người dùng) để tạo ra kết quả đầu ra.
Việc thực hành truy xuất này giúp các hệ thống AI dễ dàng hơn trong việc ghi nhận nguồn gốc. Khi các hệ thống tạo ra đầu ra dựa trên nội dung được truy xuất, chúng có thể được huấn luyện và hướng dẫn để gắn các tuyên bố ở đầu ra với các nguồn cụ thể nơi các tuyên bố đó có thể được chứng thực. Điều này cung cấp một hình thức ghi nhận công lao và cho phép người dùng theo dõi đến các trang web hoặc truy tìm lại các tệp của riêng họ.
Ví dụ, Claude có thể cung cấp chú thích cuối trang với các liên kết có thể nhấp vào đến các nguồn. Để làm điều này, nó chia các tài liệu nguồn mà nó truy xuất thành các “khối” (chunks), mỗi khối có một ID duy nhất. Theo cài đặt mặc định, nó sẽ—ít nhất là một cách có chọn lọc—trích dẫn ID của các khối hỗ trợ các tuyên bố được đưa ra ở đầu ra và hiển thị chúng dưới dạng các liên kết có thể nhấp vào ở chú thích cuối trang. Tính năng Trích dẫn của Claude có thể được sử dụng để thực hiện việc này thường xuyên và nhất quán hơn, đồng thời cho phép đầu ra trỏ đến các đoạn văn chính xác từ các tệp của người dùng. Nó hoạt động bằng cách trích xuất các khối nguồn, chẳng hạn như các trích dẫn, và chèn chúng, nguyên văn, vào kết quả đầu ra.
Còn có các phương pháp tiếp cận khác. Pleias phát triển các mô hình AI nguồn mở nhỏ gọn sử dụng dữ liệu được cấp phép mở và thuộc phạm vi công cộng. Các mô hình Pleias-RAG được thiết kế để tạo ra đầu ra chỉ từ các nguồn được truy xuất. Thay vì chia nhỏ và chèn, mô hình tạo ra cả đầu ra và bản thân trích dẫn hỗ trợ trong một lần xử lý duy nhất. Cách tiếp cận này linh hoạt hơn, vì trích dẫn không bị ràng buộc bởi các khối được xác định trước, mà điều đó có nghĩa là hệ thống không thể đảm bảo hoàn toàn rằng các trích dẫn của nó hoàn toàn khớp với nguồn. Đối với người dùng, kết quả trông tương tự: một đầu ra có các tuyên bố được truy vết đến các nguồn, với các đoạn trích dẫn và các liên kết có thể nhấp (nếu ứng dụng được xây dựng trên mô hình nguồn mở lựa chọn thiết kế này).
Vẫn còn chỗ để cải thiện ở đây. Hầu hết các hệ thống AI không ghi nhận nguồn gốc được truy xuất một cách có hệ thống như các mô hình Pleias-RAG. Ngay cả khi các hệ thống làm như vậy, nó thường không đạt đến định dạng Tiêu đề Tác giả Nguồn Giấy phép - TASL (Title Author Source License) đầy đủ mà CC khuyến nghị. Và các khung như Kiểm soát Dựa trên Ghi nguồn (Attribution-Based Control) của OpenMined chứng minh cách các hệ thống có thể thực hiện một hình thức truy xuất phi tập trung hơn, bảo vệ quyền riêng tư, trong đó dữ liệu được truy vấn tại nơi nó tồn tại thay vì được sao chép từ hệ thống của người dùng hoặc từ web vào một chỉ mục tập trung.
Nhìn chung, các kiến trúc truy xuất đã cho phép thực hành ghi nhận nguồn gốc, thể hiện sự cải tiến mạnh mẽ so với các hộp đen được LLM hỗ trợ đầu tiên mà chúng ta từng tiếp xúc. Những phát triển này đã khiến các nhà nghiên cứu từ Dự án Công bố Thông tin AI và các cộng sự của họ kết luận rằng “khoảng trống trong việc ghi nhận nguồn gốc là do các lựa chọn thiết kế, chứ không chỉ đơn thuần là những hạn chế kỹ thuật. Các hệ thống hoạt động tốt nhất cho thấy rằng việc ghi nhận nguồn gốc minh bạch và toàn diện là khả thi về mặt kỹ thuật hiện nay”.
2. Ghi nhận nguồn gốc dữ liệu là một lĩnh vực nghiên cứu tích cực.
Các cách tiếp cận ghi nhận nguồn gốc được mô tả ở trên có thể cung cấp bằng chứng xác nhận, nhưng chúng không thực sự chứng minh rằng một nguồn được liệt kê đã gây ra kết quả đầu ra. Chúng thường chỉ liệt kê một nguồn duy nhất và chỉ đề cập đến các nguồn mà hệ thống đã truy cập trong quá trình suy luận.
Sử dụng các phương pháp này, một hệ thống có thể dựa vào nhiều nguồn để tạo ra kết quả đầu ra, xuyên suốt quá trình huấn luyện và suy luận, nhưng chỉ liệt kê một nguồn duy nhất làm bằng chứng xác nhận.
Nghiên cứu đang được tiến hành để giải quyết câu hỏi khó hơn: “Với tất cả những gì hệ thống đã sử dụng, nguồn nào đã định hình kết quả đầu ra này, sao cho việc loại bỏ chúng sẽ làm thay đổi kết quả?”
Một số phương pháp cố gắng trả lời câu hỏi này bằng cách đọc trạng thái nội bộ của mô hình để ước tính đầu vào nào quan trọng đối với đầu ra. Trọng số chú ý hoạt động bằng cách theo dõi sự tập trung của mô hình trên các tài liệu nguồn được truy xuất khi nó tạo ra đầu ra. Tỷ lệ chú ý dành cho một nguồn nhất định đôi khi được sử dụng làm thước đo cho mức độ quan trọng của nó. Các phương pháp dựa trên gradient thì đo lường độ nhạy, tìm cách tính toán xem câu trả lời sẽ thay đổi bao nhiêu nếu mỗi đầu vào được thay đổi một chút, với giả định rằng các đầu vào mà đầu ra nhạy cảm nhất là những đầu vào đã định hình nó.
Một nhóm phương pháp khác tuân theo logic “loại bỏ một nguồn” để cố gắng xác định xem kết quả đầu ra sẽ thay đổi như thế nào nếu một trong những nguồn tài liệu của nó bị loại bỏ.
Để làm điều này một cách hoàn hảo, cần phải chạy lại quá trình suy luận với các nguồn khác nhau bị giữ lại mỗi lần. Điều này nhanh chóng trở nên tốn kém về mặt tính toán, vì việc ghi nhận nguồn gốc ở cấp độ từng đoạn văn riêng lẻ có thể đồng nghĩa với hàng trăm lần chạy lại cho mỗi kết quả đầu ra. Hầu hết các nghiên cứu đều cố gắng xấp xỉ hiệu ứng này bằng cách sử dụng các phương pháp khác nhau để giảm chi phí tạo ra kết quả phản thực. AttriBoT tính xấp xỉ sự thay đổi trong phản hồi của hệ thống khi các đoạn cụ thể của nguồn được truy xuất bị loại bỏ bằng cách kiểm tra các khối nội dung nguồn lớn trước khi “phóng to” vào các đoạn nhỏ hơn. ContextCite xem xét các tập con ngẫu nhiên của các nguồn để dự đoán câu trả lời sẽ thay đổi như thế nào khi các nguồn được bật và tắt. OpenMined đang thử nghiệm với các giá trị Shapley, hoạt động bằng cách tính trung bình đóng góp biên của mỗi nguồn trên nhiều tổ hợp khác nhau của các nguồn.
Logic phản thực tế y hệt này cũng có thể được áp dụng cho dữ liệu huấn luyện thay vì các nguồn dữ liệu được truy xuất.
Các hàm ảnh hưởng ước tính, mà không cần huấn luyện lại, mức độ nhạy cảm của đầu ra mô hình đối với từng nguồn huấn luyện và do đó, việc loại bỏ một nguồn sẽ làm thay đổi kết quả như thế nào. Việc này liên quan đến việc đảo ngược một ma trận ghi lại cách mọi tham số trong mô hình tương tác với mọi tham số khác. Kích thước của ma trận này bằng bình phương số lượng tham số của toàn bộ mô hình. Đối với các mô hình hiện nay, thường vượt quá 3 nghìn tỷ tham số, con số này quá lớn để lưu trữ, chứ chưa nói đến việc tính toán. Do đó, hầu hết các tiến bộ trong việc ghi nhận nguồn gốc dữ liệu huấn luyện đều liên quan đến việc đưa ra các ước tính về việc thiếu điểm dữ liệu huấn luyện nào sẽ làm thay đổi đầu ra của mô hình nhiều nhất. Các nhà nghiên cứu tại Anthropic đã thử nghiệm một kỹ thuật gọi là EK-FAC để tính xấp xỉ ma trận khổng lồ đó bằng một ma trận thay thế có cấu trúc đơn giản hơn. Phương pháp lặp Arnoldi chỉ giữ lại các hướng chủ đạo của ma trận. Những phương pháp khác giảm chi phí theo những cách khác nhau. TracIn bỏ qua ma trận và thay vào đó quan sát các tham số mô hình tại các thời điểm khác nhau trong quá trình huấn luyện để đánh giá cách một đầu vào cụ thể định hình đầu ra, còn TRAK coi mô hình đã được huấn luyện như thể đó là một mô hình tuyến tính đơn giản, điều này làm cho việc tính toán cùng một ước tính trở nên rẻ hơn nhiều.
Các nhà nghiên cứu đã phát hiện ra rằng các ước tính về đóng góp của dữ liệu huấn luyện có thể khá chính xác đối với các mô hình nhỏ, đơn giản, nhưng nhanh chóng trở nên không đáng tin cậy khi mô hình phát triển, và các phương pháp khác nhau có thể không đồng ý về tác động của một nguồn cụ thể. Ngoài ra, mặc dù chúng có thể - có lẽ - chỉ ra các ví dụ huấn luyện riêng lẻ định hình đầu ra nhiều nhất, nhưng những ví dụ đó khó có thông tin về tác giả hoặc nguồn gốc của chúng. Việc xác định một nguồn huấn luyện có ảnh hưởng không giống như việc có thể ghi nguồn đúng cho nó.
Mặc dù không hoàn hảo, các phương pháp được mô tả ở đây là sản phẩm của một lĩnh vực nghiên cứu đang phát triển dành riêng cho việc ghi nguồn cho dữ liệu, và có lý do để kỳ vọng một số phương pháp sẽ được đưa vào các hệ thống AI chính thống. Nhìn rộng hơn nữa, hầu hết các hệ thống chúng ta có ngày nay không được xây dựng để bảo tồn thông tin về các nguồn mà chúng sử dụng, đặc biệt là trong quá trình huấn luyện. Chúng tôi hy vọng rằng sẽ có nhiều lựa chọn thiết kế chú trọng đến nguồn gốc hơn ngay từ đầu (chẳng hạn như dữ liệu huấn luyện được chọn lọc và có thể nhận dạng liên tục hơn), thay vì việc ghi nhận nguồn gốc phải được thêm vào các hệ thống mà không lường trước được tầm quan trọng của nó.
3. Áp lực pháp lý đối với các nhà phát triển AI trong việc tiết lộ nguồn đang gia tăng.
Nếu không có sự can thiệp, các nhà phát triển AI đã tiết lộ rất ít về nội dung mà mô hình của họ được huấn luyện hoặc có quyền truy cập. Nhiều người dường như coi việc tiết lộ dữ liệu huấn luyện, đặc biệt là, như một gánh nặng không cần thiết, hoặc thành phần của nó là một nguồn lợi thế cạnh tranh và rủi ro pháp lý.
Đáp lại, các cơ quan quản lý đã bắt đầu đưa ra các tiêu chuẩn tối thiểu về những gì các nhà phát triển AI phải ghi lại và công bố về dữ liệu được các mô hình của họ sử dụng.
Ví dụ, Đạo luật AI của EU yêu cầu các nhà cung cấp mô hình AI đa năng phải công bố “bản tóm tắt đủ chi tiết” về nội dung huấn luyện của họ, sử dụng mẫu do Văn phòng AI của Ủy ban Châu Âu công bố. Mẫu này yêu cầu một bản ghi chép có hệ thống về các nguồn dữ liệu chính của mô hình, bao gồm các tập dữ liệu lớn có sẵn công khai, dữ liệu được cấp phép từ chủ sở hữu bản quyền và dữ liệu được thu thập hoặc trích xuất từ các nguồn trực tuyến. Tương tự, Đạo luật Minh bạch Dữ liệu Huấn luyện AI Tạo sinh của California yêu cầu các nhà phát triển phải công bố bản tóm tắt các tập dữ liệu được sử dụng để huấn luyện bất kỳ hệ thống AI tạo sinh nào được cung cấp cho người dân California.
Trong bối cảnh này, việc ghi nhận nguồn gốc liên quan đến việc kết nối các nguồn dữ liệu huấn luyện với một mô hình chứ không phải với một kết quả đầu ra cụ thể. Đó là sự khác biệt giữa việc trả lời “những nguồn nào đã giúp mô hình này có khả năng tạo ra đầu ra?” so với “mô hình này đã sử dụng những nguồn nào để tạo ra đầu ra này?”. Việc trả lời câu hỏi này đáp ứng các nhu cầu khác nhau so với các hình thức ghi nhận nguồn gốc khác được mô tả trong bài viết này, vốn thường tập trung vào việc kết nối đầu ra từ các mô hình với các nguồn được sử dụng để tạo ra chúng. Việc ghi nhận nguồn gốc ở cấp độ mô hình (thường được gọi đơn giản là “minh bạch” hoặc “công khai”) cho phép người tiêu dùng so sánh các hệ thống cạnh tranh, các cơ quan quản lý giám sát và thực thi quy định, và các nhà nghiên cứu đưa ra đánh giá cấp cao về các vấn đề như những thiên kiến và an toàn.
Hình thức ghi nhận nguồn gốc này thường được tóm tắt hơn là đủ chi tiết. Các bản tóm tắt có thể chỉ nêu tên riêng lẻ các tập dữ liệu lớn – chứ không phải tất cả – được công khai và các nguồn dữ liệu huấn luyện khác. Và nó thường được thực hiện với các ngoại lệ. Ví dụ, mẫu của EU cho phép các nhà cung cấp mô hình biên tập lại một số yếu tố mà họ có thể biện minh là bí mật thương mại.
Mặc dù chúng phục vụ các mục đích khác nhau, chúng tôi cho rằng việc xem xét việc ghi nhận nguồn gốc ở cấp độ đầu ra và cấp độ mô hình có liên quan với nhau là hữu ích. Thứ nhất, kiểu thiết kế nhận biết nguồn mà quy định cấp độ mô hình ngày càng khuyến khích, chẳng hạn như việc sử dụng dữ liệu huấn luyện được chọn lọc kỹ lưỡng hơn, cũng chính là điều giúp việc ghi nhận nguồn gốc ở cấp độ đầu ra tốt hơn trở nên khả thi (như chúng ta đã thảo luận trước đó trong bài viết này). Thứ hai, chúng tôi kỳ vọng các cơ quan quản lý sẽ phát triển các yêu cầu của họ đối với các hệ thống AI để bao gồm việc ghi nhận nguồn gốc ở cấp độ đầu ra. Vào tháng 6 năm 2026, Cơ quan Cạnh tranh và Thị trường của Vương quốc Anh đã áp đặt một yêu cầu về hành vi đối với Google, theo đó Google phải thực hiện các bước để đảm bảo nội dung tìm kiếm của mình được ghi nhận nguồn gốc rõ ràng và chính xác, cũng như công bố thông tin thân thiện với người dùng giải thích các phương pháp ghi nhận nguồn gốc của mình. (Tuy nhiên, cần lưu ý rằng chúng ta nên thận trọng với các quy định ghi nhận nguồn gốc quá khắt khe, khó khăn hoặc không thực tế, đặc biệt là đối với việc phát triển AI nguồn mở và phi thương mại, hoặc đối với việc sử dụng máy móc nói chung.)
4. Người dùng mong đợi sự ghi nhận nguồn gốc.
Sau khi thế hệ LLM đầu tiên nổi tiếng vì những "ảo giác", một hệ thống đưa ra kết quả một cách tự tin mà không ghi lại nguồn gốc của nó giờ đây bị coi là thiếu sót.
Người dùng mong muốn có thể nhấp chuột để xem tài liệu nguồn đằng sau một tuyên bố, và kỳ vọng đó định hình những gì được xây dựng. Đó là một phần lý do tại sao các hệ thống như Claude hiện trả về kết quả có liên kết trở lại các trang web và tệp người dùng đã được sử dụng.
Trong các thị trường được quản lý và nhạy cảm, kỳ vọng này đang dần chuyển từ sở thích của người tiêu dùng thành yêu cầu mua sắm. Người mua hệ thống AI trong các lĩnh vực như luật, y tế và tài chính ngày càng yêu cầu các bằng chứng có thể kiểm toán cho thấy kết quả đầu ra cụ thể dựa trên cơ sở nào, để đáp ứng các chế độ tuân thủ của riêng họ. Được thiết kế cho các chuyên gia y tế, OpenEvidence ghi nhận nguồn gốc của nó thông qua phương pháp tương tự như Claude, và cải thiện hơn nữa độ tin cậy bằng cách giới hạn các nguồn đó trong các tài liệu y khoa đã được kiểm duyệt.
Khi các cá nhân, doanh nghiệp và chính phủ thúc đẩy "AI tự chủ", các hệ thống hoạt động như một máy trộn mờ ám, trộn lẫn mọi thứ chúng tìm thấy một cách bừa bãi, sẽ là không đủ. Các lựa chọn kiến trúc giúp kiểm soát mối quan hệ giữa hệ thống AI và dữ liệu—chẳng hạn như quyền truy cập được cấp phép, truy xuất liên kết liên đoàn và nhật ký truy xuất minh bạch—cũng chính là những lựa chọn làm cho việc ghi nhận nguồn gốc tốt hơn, đặc biệt là trong quá trình suy luận.
Cũng có áp lực từ phía nhà cung cấp dữ liệu. Mặc dù các thỏa thuận cấp phép dữ liệu có thể gây lo ngại cho những người quan tâm đến việc mở rộng không gian chung kỹ thuật số, nhưng chúng tạo ra các động lực thương mại và nghĩa vụ hợp đồng cho các công ty AI trong việc phát triển các phương tiện để xác định nguồn nào đã đóng góp vào kết quả đầu ra nào. ProRata sử dụng việc ghi nhận nguồn gốc làm cơ sở cho việc cấp phép và thanh toán (mặc dù phương pháp của họ không được công bố, khiến khó có thể biết họ thực sự đang làm gì hoặc độ chính xác của nó như thế nào); Comet Plus của Perplexity trả tiền cho các nhà xuất bản tham gia khi nội dung của họ được truy cập, trích dẫn trong câu trả lời hoặc được một tác nhân xử lý; và Index của Parallel sử dụng giá trị Shapley để khuyến khích người viết "xem nội dung của họ đáng giá bao nhiêu đối với các tác nhân AI".
Mặc dù các định dạng truyền thống như TASL vẫn đóng vai trò quan trọng, đặc biệt là trong quá trình suy luận, chúng ta nên cởi mở với các mô hình và tiêu chuẩn mới để trình bày thông tin ghi nhận nguồn gốc cho người dùng. Đối với các phương pháp được Shapley hỗ trợ, nghiên cứu của OpenMined cho thấy cách biểu đồ hoặc các tính năng thiết kế khác có thể trình bày đóng góp tương đối của nhiều nguồn vào một kết quả đầu ra tổng hợp duy nhất. Khung Ghi nhận Nguồn gốc của Wikimedia mô tả cách bao gồm số lượng tham chiếu, hoạt động của người đóng góp và lời kêu gọi hành động có thể hỗ trợ độ tin cậy của các phản hồi do AI tạo ra, và thúc đẩy người đóng góp và quyên góp cho các nguồn. Trong môi trường học thuật, những người tham gia hội thảo gần đây tại Cambridge đã nêu bật nhu cầu về các kết quả đầu ra phải trình bày thông tin như việc rút lại bài báo và các biểu hiện quan ngại khác.
Tiến về phía trước
Chúng ta không được quên rằng việc ghi nhận nguồn gốc là một yếu tố quan trọng của khế ước xã hội về chia sẻ. Bất kể máy móc tham gia như thế nào, việc nêu tên nguồn gốc của chúng ta duy trì mối liên hệ giữa một tác phẩm sáng tạo hoặc kiến thức và những người đã tạo ra nó.
Mặc dù thực sự là một thách thức về mặt kỹ thuật, chúng tôi lạc quan rằng các hệ thống AI hiện đại có thể thực hành việc ghi nhận nguồn gốc một cách có ý nghĩa, đặc biệt nếu việc ghi nhận nguồn gốc được tích hợp ngay từ khâu thiết kế. Như bài viết này đã mô tả: kiến trúc truy xuất giúp việc ghi nhận nguồn gốc trở nên khả thi; các phương pháp đóng góp tiên tiến hơn đang dần chuyển từ nghiên cứu sang ứng dụng thực tiễn; và áp lực từ phía thương mại, pháp lý và người dùng đang cùng hướng đến mục tiêu chung này.
Khi các phương pháp ghi nhận nguồn gốc trưởng thành, điều quan trọng đối với chúng ta là chúng cần được mở rộng đến những người sáng tạo, nhà xuất bản và người quản lý nội dung được cấp phép mở và thuộc phạm vi công cộng, thay vì chỉ dành riêng cho những người tham gia vào các thỏa thuận cấp phép hạn chế hoặc sử dụng công nghệ tinh vi để kiểm soát quyền truy cập vào nội dung của họ.
Cuối cùng, chúng ta không nên quên rằng việc ghi nhận nguồn gốc đúng cách là cần thiết nhưng chưa đủ cho tương lai của tài nguyên chung. Một người sáng tạo có thể được ghi nhận công lao nhưng vẫn mất đi lượng truy cập đã tài trợ cho công việc của họ. Một thư viện công cộng vẫn có thể bị quá tải bởi các máy móc truy cập ồ ạt vào bộ sưu tập của mình. Một cộng đồng như Wikipedia vẫn có thể mất đi kết nối với những người đóng góp, cả hiện tại và tiềm năng. Để xây dựng mối quan hệ tương hỗ thực sự giữa AI và tài nguyên chung, chúng ta cũng cần những ý tưởng mới táo bạo, cơ sở hạ tầng và các hình thức trao đổi để duy trì các cộng đồng và thể chế mà tài nguyên chung phụ thuộc vào.
Nếu bạn đang nghiên cứu về việc ghi nhận nguồn gốc tác giả, đặc biệt là việc xây dựng các hệ thống AI thực hiện việc này theo một số cách mà chúng tôi mô tả ở đây, CC rất muốn được nghe ý kiến từ bạn.
Bài viết này của Jack Hardinges và Irina Bejan (OpenMined) được cấp phép theo CC BY 4.0. Xin cảm ơn Diyana Noory, Monica Granados và Sarah Pearson tại Creative Commons vì những nhận xét của họ về bản thảo bài viết này.
Attribution is the mechanism that lets a piece of knowledge or creativity stay connected to the people who made it possible. When AI systems produce outputs without sources, that connection breaks, making it harder to trust the information, verify accuracy, or give credit. In March, we released Attribution & AI Outputs, an issue brief examining why attribution in AI systems is so often difficult to get right. Authors Jack Hardinges (Creative Commons) and Irina Bejan (OpenMined) take that question further here, and make the case that attribution gaps aren’t an inevitable side effect of how AI works. CC thinks it’s an important next step in this conversation.
Introduction
Attribution has always been a cornerstone of working with other people’s creativity and knowledge.
As Creative Commons reminds us, practicing attribution serves many important functions, from providing verifiable evidence of a claim, to paying respect to the work of others, and creating pathways for traffic and financial value to flow.
Despite the importance of attribution, many of today’s AI systems fail to acknowledge the sources of knowledge and creativity that make them possible.
A recent study led by the AI Disclosures Project found that more than 30% of responses by leading search-enabled Large Language Models (LLMs) provided no attribution whatsoever. Even where attribution is provided, it can be limited in ways that are hidden to users, and deep technical challenges persist in connecting outputs from AI to the sources they are derived from.
Despite this, we believe there are good reasons to be optimistic that AI systems can attribute the sources they use. Not perfectly, and not always, but enough and improving, such that we should reject the argument that a lack of attribution is an inevitable side effect of the way the technology works. The commons needn’t become “hidden substrate.”
A Note on Terminology
In this post, we interpret attribution as the practice of connecting an artifact with the sources of data used to create it. This is deliberately broad. As we explain, it’s possible—and useful—for AI systems to practice different forms of attribution for different purposes. We are not referring to attribution as a specific legal requirement or condition. We also use “AI systems” broadly, as most of what we discuss applies to a wide range of models and surrounding technologies (although some methods apply mainly to systems that generate text outputs).
Reasons to Be Optimistic
1. AI systems have evolved in ways that support attribution.
The first wave of LLM-based tools were essentially user interfaces that made calls to a static, pre-trained model (or “thin ChatGPT wrappers”). Outputs from these tools were a function of whatever the model had been exposed to in training, with no live access to sources.
This changed quickly. Now, architectures such as retrieval augmented generation (RAG) enable AI systems to draw on fresh data (such as web pages or a user’s files) to produce outputs.
This practice of retrieval makes AI systems much more amenable to attribution. When systems generate an output based on retrieved content, they can be trained and prompted to attach claims in the output to specific sources where those claims can be corroborated. This provides a form of credit, and allows users to follow through to web pages or trace back to their own files.
Claude, for example, can provide footnotes with clickable links to sources. To do this, it breaks the source materials it retrieves into “chunks”, each with a unique ID. Under default settings, it will—selectively, at least—cite the IDs of chunks that support the claims made in the output and render them as clickable links in the footnotes. Claude’s Citations feature can be used to make this practice more frequent and consistent, and enable outputs to point to exact passages from users’ files. It works by extracting source chunks, such as quotations, and injecting them, verbatim, into the output.
Other approaches exist. Pleias develops small, open-source AI models using openly licensed and public domain data. Pleias-RAG models are designed to produce outputs exclusively from retrieved sources. Rather than chunking and injecting, the model generates both the output and the supporting quote itself, in a single pass. This approach is more flexible, as the quote isn’t bound by pre-defined chunks, but it means that the system cannot fully guarantee that its quotations perfectly match the source. For a user, the result looks similar: an output whose claims trace to sources, with quoted excerpts and clickable links (if the application built on top of the open-source model makes this design choice).
There’s room for improvement here. Most AI systems do not attribute their retrieved sources as systematically as the Pleias-RAG models. Even where systems do, it often doesn’t amount to the full Title Author Source License (TASL) format that CC recommends. And frameworks like OpenMined’s Attribution-Based Control demonstrate how systems could practice a more decentralized, privacy-preserving form of retrieval, where data is queried where it lives rather than copied from the user’s system or the web into a central index.
In the round, retrieval architectures have enabled attribution practices that represent a strong improvement from the first LLM-enabled black boxes we were exposed to. These developments have led researchers from the AI Disclosures Project and their collaborators to conclude that “attribution gaps result from design choices, not simply technical limitations. The best-performing systems show that transparent, comprehensive attribution is technically feasible today”.
2. Data attribution is an active research discipline.
The approaches to attribution described above can provide corroboration, but they don’t truly establish that a listed source caused an output. They often list just one source, and only address the sources that a system accessed at inference time.
Using these methods, a system could rely on multiple sources to produce an output, across training and inference, but list only one source as corroboration.
Research is underway to address the harder question of: “given everything the system drew on, which sources shaped this output, such that removing them would have changed the result?”
Some methods attempt to answer this by reading the model’s internal state to estimate which inputs mattered to an output. Attention weights work by monitoring a model’s focus across retrieved source materials as it generates an output. The share of attention landing on a given source is sometimes used as a proxy for how much it mattered. Gradient-based methods instead measure sensitivity, seeking to calculate how much the answer would shift if each input were changed slightly, on the assumption that the inputs the output is most sensitive to are the ones that shaped it.
A different cluster of methods follows the logic of “leave one out” to try to identify how an output would change if one of its source materials was removed.
Doing this perfectly would involve rerunning inference with different sources withheld each time. That gets computationally expensive quickly, as attributing at the level of individual passages could mean hundreds of reruns per output. Most research attempts to approximate this effect by using different methods to cut the cost of producing the counterfactual. AttriBoT approximates the change in a system’s response when particular spans of retrieved sources are taken away by testing large blocks of source content first before “zooming in” on smaller spans. ContextCite looks at random subsets of the sources to predict how the answer shifts as sources are switched on and off. OpenMined is experimenting with Shapley values, which work by averaging each source’s marginal contribution across many different combinations of the sources.
This same counterfactual logic can also be pointed at training data rather than retrieved sources.
Influence functions estimate, without retraining, how sensitive the model’s output is to each training source and, therefore, how much removing one would change the answer. Doing this involves inverting a matrix that records how every parameter in a model interacts with every other parameter. Its size is the full model’s parameter count squared. For today’s models, which often exceed 3 trillion parameters, this is far too large to even store, let alone compute with. As a result, most progress on training data attribution involves producing estimations for which training data point’s absence would have changed the model’s output the most. Researchers at Anthropic have experimented with a technique called EK-FAC to approximate that enormous matrix with a simpler, structured stand-in. Arnoldi iteration keeps only the matrix’s dominant directions. Others cut the cost differently. TracIn skips the matrix and instead observes the model parameters at different points in training to assess how a particular input shaped the output, and TRAK treats the trained model as if it was a simple linear one, which makes the same estimate far cheaper to compute.
Researchers have found that estimates of training data contributions can be fairly accurate for small, simple models, but become unreliable quickly as models grow, and different methods are likely to disagree on the impact of a particular source. Also, while they can—perhaps—point to the individual training examples that most shaped an output, those examples are unlikely to have information about their authorship or provenance attached. Identifying an influential training source is not the same as being able to properly attribute it.
While imperfect, the methods described here are the product of a growing field of research dedicated to data attribution, and it’s reasonable to expect some will work their way into mainstream AI systems. Taking an even wider view, most of the systems we have today were not built to preserve information about the sources they use, especially in training. We are hopeful that more source-aware design choices will be made from the ground up (such as more curated and persistently identifiable training data), rather than attribution needing to be bolted onto systems that chose not to anticipate its importance.
3. Regulatory pressure on AI developers to disclose their sources is increasing.
Left to themselves, AI developers have disclosed little about the content their models are trained on or have access to. Many seem to view training data disclosure, in particular, as an unnecessary burden, or its composition as a source of competitive advantage and legal exposure.
In response, regulators have started to introduce minimum standards for what AI developers must document and publish about the data used by their models.
The EU AI Act, for example, requires providers of general-purpose AI models to publish a “sufficiently detailed summary” of their training content, using a template published by the European Commission’s AI Office. The template requires an organised account of the model’s main data sources, including large publicly available datasets, data licensed from rightsholders, and data crawled or scraped from online sources. California’s Generative AI Training Data Transparency Act similarly requires developers to publish a summary of the datasets used to train any generative AI system made available to Californians.
In this context, attribution involves connecting sources of training data to a model rather than to a specific output. It’s the difference between answering “what sources made this model capable of producing outputs?” vs “what sources has this model used to produce this output?” Answering this meets different needs to other forms of attribution described in this post, which are generally focused on connecting outputs from models to the sources used to generate them. Model-level attribution (often referred to as simply “transparency” or “disclosure”) enables consumers to compare competing systems, regulators to supervise and enforce regulation, and researchers to make high-order assessments of things like bias and safety.
This form of attribution is typically summarized rather than granular. Summaries might only individually name large—rather than all—publicly available datasets and other sources of training data. And it’s often practiced with carve-outs. The EU template, for instance, lets model providers redact some elements they can justify as trade secrets.
While they serve different purposes, we think it’s useful to see output-level and model-level attribution as related. First, the kind of source-aware design that model-level regulation increasingly encourages, such as the use of more curated training data, is also what makes better output-level attribution possible (as we discussed earlier in this post). Second, we expect regulators to evolve their demands of AI systems to include output-level attribution. In June 2026, the UK’s Competition and Markets Authority imposed a conduct requirement on Google, under which it must take steps to ensure its search content is attributed clearly and accurately, as well as publish user-friendly information explaining its attribution methods. (However, on that note, we should be wary of attribution regulations that are overly prescriptive, onerous, or impractical, especially for open source and non-commercial development of AI, or for machine use more broadly.)
4. Users expect attribution.
After the first generation of LLMs became notorious for “hallucinations”, a system that outputs confidently without documenting its sources is now seen as deficient.
Users have come to expect to be able to click through to source material behind a claim, and that expectation shapes what gets built. It is part of the reason why systems like Claude now return outputs with links back to the web pages and user files that have been drawn on.
In regulated and sensitive markets, this expectation is hardening from a consumer preference into a procurement requirement. Buyers of AI systems in sectors such as law, medicine, and finance increasingly require auditable trails showing what a given output was based on, in order to satisfy their own compliance regimes. Designed for medical professionals, OpenEvidence attributes its sources through much the same approach as Claude, and further improves reliability by constraining those sources to vetted medical literature.
As individuals, enterprises, and governments push for “sovereign AI”, systems that behave as an opaque blender, indiscriminately mixing everything they can find, will not suffice. The architectural choices that make control of AI systems’ relationship with data possible—such as permissioned access, federated retrieval, and transparent retrieval logs—are the same ones that make for better attribution, especially at inference time.
There is pressure from the data supply side, too. While licensed data deals can be concerning to those of us with an interest in broadening the digital commons, they create commercial incentives and contractual obligations for AI firms to develop means of identifying which sources contributed to which outputs. ProRata uses attribution as the basis for licensing and payment (though their methods are unpublished, making it hard to tell what they are really doing or how accurate it is); Perplexity’s Comet Plus pays participating publishers when their content is visited, cited in an answer, or acted on by an agent; and Index by Parallel uses Shapley values to encourage writers to “see what [their] content is worth to AI agents.”
While traditional formats like TASL still have a role to play, especially at inference time, we should be open to new patterns and standards for presenting attribution information to users. For Shapley-enabled methods, OpenMined’s research shows how charts or other design features can present the relative contribution of several sources to a single synthesized output. The Wikimedia Attribution Framework describes how including reference counts, contributor activity and calls-to-action can support the credibility of AI-generated responses, and drive contributors and donations to sources. In scholarly settings, participants at a recent Cambridge workshop flagged the need for outputs to present information such as retractions and other expressions of concern.
Moving Forward
We must not lose sight of the fact that attribution is a vital element of the social contract of sharing. Regardless of how machines are involved, naming our sources sustains the connection between a piece of creativity or knowledge and the people who produced it.
While it is indeed technically challenging, we’re optimistic that modern AI systems can meaningfully practice attribution, especially if attribution is incorporated by design. As this post has described: retrieval architectures make corroborative attribution eminently possible; more advanced, contributive methods are inching from research toward production; and commercial, regulatory, and user pressure are aligning behind the same goal.
As attribution practices mature, it’s important to us that they extend to creators, publishers, and stewards of openly licensed and public domain content rather than become the preserve only of those who engage in restrictive licensing deals or use sophisticated technology to gate access to their content.
Lastly, we shouldn’t lose sight of the fact that getting attribution right is necessary but insufficient for the future of the commons. A creator can be attributed and still lose the traffic that funded their work. A public library can still find itself overwhelmed by machines drawing on its collection en masse. A community like Wikipedia can still lose its connection with contributors, current and potential. To build a genuinely reciprocal relationship between AI and the commons, we also need bold new ideas, infrastructure, and forms of exchange to sustain the communities and institutions the commons depends on.
If you are working on attribution, especially building AI systems that practice it in some of the ways we describe here, CC would like to hear from you.
This article by Jack Hardinges and Irina Bejan (OpenMined) is licensed under CC BY 4.0. Thanks to Diyana Noory, Monica Granados, and Sarah Pearson at Creative Commons for their comments on a draft of this article.
Dịch: Lê Trung Nghĩa
letrungnghia.foss@gmail.com
Tự do tải về bài trình chiếu trong tập huấn tại: 
