Attribution in the Age of AI
Posted 24 July 2026 by Jack Hardinges, Irina Bejan
Theo: https://creativecommons.org/2026/07/24/attribution-in-the-age-of-ai/
Bài được đưa lên Internet ngày: 24/07/2026
Ghi
nhận nguồn gốc là cơ chế cho phép một mẩu kiến thức hoặc tác phẩm
sáng tạo được kết nối với những người đã tạo ra nó. Khi các hệ thống AI
tạo ra đầu ra mà không có nguồn gốc, kết nối đó bị phá vỡ, khiến việc
tin tưởng thông tin, xác minh tính chính xác hoặc ghi nhận công lao trở
nên khó khăn hơn. Vào tháng 3, chúng tôi đã phát hành "Ghi nhận nguồn gốc và đầu ra của AI" (bản dịch sang tiếng Việt),
một bản tóm tắt vấn đề xem xét lý do tại sao việc ghi nhận nguồn gốc
trong các hệ thống AI thường khó thực hiện chính xác. Các tác giả Jack
Hardinges (Creative Commons) và Irina Bejan (OpenMined) đã đi sâu hơn
vào câu hỏi này, và lập luận rằng những khoảng trống trong việc ghi nhận
nguồn gốc không phải là tác dụng phụ không thể tránh khỏi của cách thức
AI hoạt động. CC cho rằng đây là một bước quan trọng tiếp theo trong
cuộc thảo luận này.
Giới thiệu
Việc ghi nhận nguồn gốc luôn là nền tảng của việc làm việc với sự sáng tạo và kiến thức của người khác.
Như Creative Commons nhắc nhở chúng ta, (bản dịch sang tiếng Việt)
việc thực hành ghi nhận nguồn gốc phục vụ nhiều chức năng quan trọng,
từ việc cung cấp bằng chứng có thể kiểm chứng cho một tuyên bố, đến việc
thể hiện sự tôn trọng đối với công việc của người khác, và tạo ra các
con đường cho lưu lượng truy cập và giá trị tài chính được lưu chuyển.
Mặc
dù tầm quan trọng của việc ghi nhận nguồn gốc, nhiều hệ thống AI hiện
nay lại không thừa nhận các nguồn kiến thức và sự sáng tạo đã tạo nên
chúng.
Một nghiên cứu gần đây do Dự án Tiết lộ AI (AI Disclosures Project) dẫn dắt cho thấy hơn 30% phản hồi của các Mô hình ngôn ngữ lớn (LLM) hỗ trợ tìm kiếm hàng đầu không cung cấp bất kỳ sự ghi nhận nào.
Ngay cả khi việc ghi nhận nguồn gốc được cung cấp, nó vẫn có thể bị hạn
chế theo những cách thức ẩn khuất đối với người dùng và những thách
thức kỹ thuật sâu sắc vẫn tồn tại trong việc kết nối kết quả đầu ra từ
AI với các nguồn mà chúng được tạo ra.
Mặc dù vậy, chúng tôi tin rằng có nhiều lý do chính đáng để lạc quan rằng hệ thống AI có thể
ghi nhận nguồn gốc mà chúng sử dụng. Không hoàn hảo và không phải luôn
luôn, nhưng đủ và ngày càng cải thiện, đến mức chúng ta nên bác bỏ lập
luận rằng việc thiếu ghi nhận nguồn gốc là một tác dụng phụ không thể
tránh khỏi trong cách hoạt động của công nghệ. Tài sản chung không nhất
thiết phải trở thành “chất nền ẩn”.
Lưu ý về thuật ngữ
Trong
bài đăng này, chúng tôi hiểu ghi nhận nguồn gốc là thực hành kết nối
một chế tác (artifact) với các nguồn dữ liệu được sử dụng để tạo ra nó.
Điều này là cố ý rộng rãi. Như chúng tôi giải thích, hệ thống AI có thể
thực hành các hình thức ghi nhận khác nhau đối với việc ghi nhận nguồn
gốc cho các mục đích khác nhau và hữu ích. Chúng tôi không coi việc ghi
nhận nguồn gốc là một yêu cầu hoặc điều kiện pháp lý cụ thể. Chúng tôi
cũng sử dụng “hệ thống AI” một cách rộng rãi, vì hầu hết những gì chúng
tôi thảo luận đều áp dụng cho nhiều mô hình và công nghệ xung quanh (mặc
dù một số phương pháp chủ yếu áp dụng cho các hệ thống tạo đầu ra văn
bản).
Lý do để lạc quan
1. Hệ thống AI đã phát triển theo những cách hỗ trợ việc ghi nhận nguồn gốc.
Làn
sóng đầu tiên của các công cụ dựa trên LLM về cơ bản là các giao diện
người dùng thực hiện lệnh gọi đến một mô hình tĩnh, được đào tạo trước
(hoặc “trình bao bọc ChatGPT mỏng” - thin ChatGPT wrappers).
Đầu ra từ những công cụ này là một chức năng của bất kỳ thứ gì mà mô
hình đã được thể hiện trong quá trình đào tạo mà không có quyền truy cập
trực tiếp vào các nguồn.
Điều
này đã thay đổi nhanh chóng. Giờ đây, các kiến trúc như tạo sinh tăng
cường truy xuất - RAG (Retrieval Augmented Generation) cho phép các hệ
thống AI thu thập dữ liệu mới (ví dụ như các trang web hoặc tệp của
người dùng) để tạo ra kết quả đầu ra.
Việc
thực hành truy xuất này giúp các hệ thống AI dễ dàng hơn trong việc ghi
nhận nguồn gốc. Khi các hệ thống tạo ra đầu ra dựa trên nội dung được
truy xuất, chúng có thể được huấn luyện và hướng dẫn để gắn các tuyên bố
ở đầu ra với các nguồn cụ thể nơi các tuyên bố đó có thể được chứng
thực. Điều này cung cấp một hình thức ghi nhận công lao và cho phép
người dùng theo dõi đến các trang web hoặc truy tìm lại các tệp của
riêng họ.
Ví dụ, Claude
có thể cung cấp chú thích cuối trang với các liên kết có thể nhấp vào
đến các nguồn. Để làm điều này, nó chia các tài liệu nguồn mà nó truy
xuất thành các “khối” (chunks), mỗi khối có một ID duy nhất. Theo cài
đặt mặc định, nó sẽ—ít nhất là một cách có chọn lọc—trích dẫn ID của các
khối hỗ trợ các tuyên bố được đưa ra ở đầu ra và hiển thị chúng dưới
dạng các liên kết có thể nhấp vào ở chú thích cuối trang. Tính năng Trích dẫn
của Claude có thể được sử dụng để thực hiện việc này thường xuyên và
nhất quán hơn, đồng thời cho phép đầu ra trỏ đến các đoạn văn chính xác
từ các tệp của người dùng. Nó hoạt động bằng cách trích xuất các khối
nguồn, chẳng hạn như các trích dẫn, và chèn chúng, nguyên văn, vào kết
quả đầu ra.
Còn có các phương pháp tiếp cận khác. Pleias phát triển các mô hình AI nguồn mở nhỏ gọn sử dụng dữ liệu được cấp phép mở và thuộc phạm vi công cộng. Các mô hình Pleias-RAG
được thiết kế để tạo ra đầu ra chỉ từ các nguồn được truy xuất. Thay vì
chia nhỏ và chèn, mô hình tạo ra cả đầu ra và bản thân trích dẫn hỗ trợ
trong một lần xử lý duy nhất. Cách tiếp cận này linh hoạt hơn, vì trích
dẫn không bị ràng buộc bởi các khối được xác định trước, mà điều đó có
nghĩa là hệ thống không thể đảm bảo hoàn toàn rằng các trích dẫn của nó
hoàn toàn khớp với nguồn. Đối với người dùng, kết quả trông tương tự:
một đầu ra có các tuyên bố được truy vết đến các nguồn, với các đoạn
trích dẫn và các liên kết có thể nhấp (nếu ứng dụng được xây dựng trên
mô hình nguồn mở lựa chọn thiết kế này).
Vẫn
còn chỗ để cải thiện ở đây. Hầu hết các hệ thống AI không ghi nhận
nguồn gốc được truy xuất một cách có hệ thống như các mô hình
Pleias-RAG. Ngay cả khi các hệ thống làm như vậy, nó thường không đạt
đến định dạng Tiêu đề Tác giả Nguồn Giấy phép - TASL (Title Author Source License) đầy đủ mà CC khuyến nghị. Và các khung như Kiểm soát Dựa trên Ghi nguồn (Attribution-Based Control)
của OpenMined chứng minh cách các hệ thống có thể thực hiện một hình
thức truy xuất phi tập trung hơn, bảo vệ quyền riêng tư, trong đó dữ
liệu được truy vấn tại nơi nó tồn tại thay vì được sao chép từ hệ thống
của người dùng hoặc từ web vào một chỉ mục tập trung.
Nhìn
chung, các kiến trúc truy xuất đã cho phép thực hành ghi nhận nguồn
gốc, thể hiện sự cải tiến mạnh mẽ so với các hộp đen được LLM hỗ trợ đầu
tiên mà chúng ta từng tiếp xúc. Những phát triển này đã khiến các nhà nghiên cứu từ Dự án Công bố Thông tin AI và các cộng sự của họ kết luận
rằng “khoảng trống trong việc ghi nhận nguồn gốc là do các lựa chọn
thiết kế, chứ không chỉ đơn thuần là những hạn chế kỹ thuật. Các hệ thống hoạt động tốt nhất cho thấy rằng việc ghi nhận nguồn gốc minh bạch và toàn diện là khả thi về mặt kỹ thuật hiện nay”.
2. Ghi nhận nguồn gốc dữ liệu là một lĩnh vực nghiên cứu tích cực.
Các
cách tiếp cận ghi nhận nguồn gốc được mô tả ở trên có thể cung cấp bằng
chứng xác nhận, nhưng chúng không thực sự chứng minh rằng một nguồn
được liệt kê đã gây ra kết quả đầu ra. Chúng thường chỉ liệt kê
một nguồn duy nhất và chỉ đề cập đến các nguồn mà hệ thống đã truy cập
trong quá trình suy luận.
Sử dụng các
phương pháp này, một hệ thống có thể dựa vào nhiều nguồn để tạo ra kết
quả đầu ra, xuyên suốt quá trình huấn luyện và suy luận, nhưng chỉ liệt
kê một nguồn duy nhất làm bằng chứng xác nhận.
Nghiên
cứu đang được tiến hành để giải quyết câu hỏi khó hơn: “Với tất cả
những gì hệ thống đã sử dụng, nguồn nào đã định hình kết quả đầu ra này,
sao cho việc loại bỏ chúng sẽ làm thay đổi kết quả?”
Một
số phương pháp cố gắng trả lời câu hỏi này bằng cách đọc trạng thái nội
bộ của mô hình để ước tính đầu vào nào quan trọng đối với đầu ra. Trọng số chú ý
hoạt động bằng cách theo dõi sự tập trung của mô hình trên các tài liệu
nguồn được truy xuất khi nó tạo ra đầu ra. Tỷ lệ chú ý dành cho một
nguồn nhất định đôi khi được sử dụng làm thước đo cho mức độ quan trọng
của nó. Các phương pháp dựa trên gradient
thì đo lường độ nhạy, tìm cách tính toán xem câu trả lời sẽ thay đổi
bao nhiêu nếu mỗi đầu vào được thay đổi một chút, với giả định rằng các
đầu vào mà đầu ra nhạy cảm nhất là những đầu vào đã định hình nó.
Một
nhóm phương pháp khác tuân theo logic “loại bỏ một nguồn” để cố gắng
xác định xem kết quả đầu ra sẽ thay đổi như thế nào nếu một trong những
nguồn tài liệu của nó bị loại bỏ.
Để
làm điều này một cách hoàn hảo, cần phải chạy lại quá trình suy luận với
các nguồn khác nhau bị giữ lại mỗi lần. Điều này nhanh chóng trở nên
tốn kém về mặt tính toán, vì việc ghi nhận nguồn gốc ở cấp độ từng đoạn
văn riêng lẻ có thể đồng nghĩa với hàng trăm lần chạy lại cho mỗi kết
quả đầu ra. Hầu hết các nghiên cứu đều cố gắng xấp xỉ hiệu ứng này bằng
cách sử dụng các phương pháp khác nhau để giảm chi phí tạo ra kết quả
phản thực. AttriBoT
tính xấp xỉ sự thay đổi trong phản hồi của hệ thống khi các đoạn cụ thể
của nguồn được truy xuất bị loại bỏ bằng cách kiểm tra các khối nội
dung nguồn lớn trước khi “phóng to” vào các đoạn nhỏ hơn. ContextCite xem xét các tập con ngẫu nhiên của các nguồn để dự đoán câu trả lời sẽ thay đổi như thế nào khi các nguồn được bật và tắt. OpenMined đang thử nghiệm với các giá trị Shapley, hoạt động bằng cách tính trung bình đóng góp biên của mỗi nguồn trên nhiều tổ hợp khác nhau của các nguồn.
Logic phản thực tế y hệt này cũng có thể được áp dụng cho dữ liệu huấn luyện thay vì các nguồn dữ liệu được truy xuất.
Các hàm ảnh hưởng
ước tính, mà không cần huấn luyện lại, mức độ nhạy cảm của đầu ra mô
hình đối với từng nguồn huấn luyện và do đó, việc loại bỏ một nguồn sẽ
làm thay đổi kết quả như thế nào. Việc này liên quan đến việc đảo ngược
một ma trận ghi lại cách mọi tham số trong mô hình tương tác với mọi
tham số khác. Kích thước của ma trận này bằng bình phương số lượng tham
số của toàn bộ mô hình. Đối với các mô hình hiện nay, thường vượt quá 3
nghìn tỷ tham số, con số này quá lớn để lưu trữ, chứ chưa nói đến việc
tính toán. Do đó, hầu hết các tiến bộ trong việc ghi nhận nguồn gốc dữ
liệu huấn luyện đều liên quan đến việc đưa ra các ước tính về việc thiếu
điểm dữ liệu huấn luyện nào sẽ làm thay đổi đầu ra của mô hình nhiều
nhất. Các nhà nghiên cứu tại Anthropic đã thử nghiệm một kỹ thuật gọi là EK-FAC để tính xấp xỉ ma trận khổng lồ đó bằng một ma trận thay thế có cấu trúc đơn giản hơn. Phương pháp lặp Arnoldi chỉ giữ lại các hướng chủ đạo của ma trận. Những phương pháp khác giảm chi phí theo những cách khác nhau. TracIn
bỏ qua ma trận và thay vào đó quan sát các tham số mô hình tại các thời
điểm khác nhau trong quá trình huấn luyện để đánh giá cách một đầu vào
cụ thể định hình đầu ra, còn TRAK
coi mô hình đã được huấn luyện như thể đó là một mô hình tuyến tính đơn
giản, điều này làm cho việc tính toán cùng một ước tính trở nên rẻ hơn
nhiều.
Các nhà nghiên cứu đã phát hiện
ra rằng các ước tính về đóng góp của dữ liệu huấn luyện có thể khá
chính xác đối với các mô hình nhỏ, đơn giản, nhưng nhanh chóng trở nên không đáng tin cậy khi mô hình phát triển,
và các phương pháp khác nhau có thể không đồng ý về tác động của một
nguồn cụ thể. Ngoài ra, mặc dù chúng có thể - có lẽ - chỉ ra các ví dụ
huấn luyện riêng lẻ định hình đầu ra nhiều nhất, nhưng những ví dụ đó
khó có thông tin về tác giả hoặc nguồn gốc của chúng. Việc xác định một
nguồn huấn luyện có ảnh hưởng không giống như việc có thể ghi nguồn đúng
cho nó.
Mặc dù không hoàn hảo, các
phương pháp được mô tả ở đây là sản phẩm của một lĩnh vực nghiên cứu
đang phát triển dành riêng cho việc ghi nguồn cho dữ liệu, và có lý do
để kỳ vọng một số phương pháp sẽ được đưa vào các hệ thống AI chính
thống. Nhìn rộng hơn nữa, hầu hết các hệ thống chúng ta có ngày nay
không được xây dựng để bảo tồn thông tin về các nguồn mà chúng sử dụng,
đặc biệt là trong quá trình huấn luyện. Chúng tôi hy vọng rằng sẽ có
nhiều lựa chọn thiết kế chú trọng đến nguồn gốc hơn ngay từ đầu (chẳng
hạn như dữ liệu huấn luyện được chọn lọc và có thể nhận dạng liên tục
hơn), thay vì việc ghi nhận nguồn gốc phải được thêm vào các hệ thống mà
không lường trước được tầm quan trọng của nó.
3. Áp lực pháp lý đối với các nhà phát triển AI trong việc tiết lộ nguồn đang gia tăng.
Nếu
không có sự can thiệp, các nhà phát triển AI đã tiết lộ rất ít về nội
dung mà mô hình của họ được huấn luyện hoặc có quyền truy cập. Nhiều
người dường như coi việc tiết lộ dữ liệu huấn luyện, đặc biệt là, như
một gánh nặng không cần thiết, hoặc thành phần của nó là một nguồn lợi
thế cạnh tranh và rủi ro pháp lý.
Đáp
lại, các cơ quan quản lý đã bắt đầu đưa ra các tiêu chuẩn tối thiểu về
những gì các nhà phát triển AI phải ghi lại và công bố về dữ liệu được
các mô hình của họ sử dụng.
Ví dụ, Đạo luật AI của EU yêu cầu các nhà cung cấp mô hình AI đa năng phải công bố “bản tóm tắt đủ chi tiết” về nội dung huấn luyện của họ, sử dụng mẫu
do Văn phòng AI của Ủy ban Châu Âu công bố. Mẫu này yêu cầu một bản ghi
chép có hệ thống về các nguồn dữ liệu chính của mô hình, bao gồm các
tập dữ liệu lớn có sẵn công khai, dữ liệu được cấp phép từ chủ sở hữu
bản quyền và dữ liệu được thu thập hoặc trích xuất từ các nguồn trực
tuyến. Tương tự, Đạo luật Minh bạch Dữ liệu Huấn luyện AI Tạo sinh
của California yêu cầu các nhà phát triển phải công bố bản tóm tắt các
tập dữ liệu được sử dụng để huấn luyện bất kỳ hệ thống AI tạo sinh nào
được cung cấp cho người dân California.
Trong bối cảnh này, việc ghi nhận nguồn gốc liên quan đến việc kết nối các nguồn dữ liệu huấn luyện với một mô hình
chứ không phải với một kết quả đầu ra cụ thể. Đó là sự khác biệt giữa
việc trả lời “những nguồn nào đã giúp mô hình này có khả năng tạo ra đầu
ra?” so với “mô hình này đã sử dụng những nguồn nào để tạo ra đầu ra
này?”. Việc trả lời câu hỏi này đáp ứng các nhu cầu khác nhau so với các
hình thức ghi nhận nguồn gốc khác được mô tả trong bài viết này, vốn
thường tập trung vào việc kết nối đầu ra từ các mô hình với các nguồn
được sử dụng để tạo ra chúng. Việc ghi nhận nguồn gốc ở cấp độ mô hình
(thường được gọi đơn giản là “minh bạch” hoặc “công khai”) cho phép
người tiêu dùng so sánh các hệ thống cạnh tranh, các cơ quan quản lý
giám sát và thực thi quy định, và các nhà nghiên cứu đưa ra đánh giá cấp
cao về các vấn đề như những thiên kiến và an toàn.
Hình
thức ghi nhận nguồn gốc này thường được tóm tắt hơn là đủ chi tiết. Các
bản tóm tắt có thể chỉ nêu tên riêng lẻ các tập dữ liệu lớn – chứ không
phải tất cả – được công khai và các nguồn dữ liệu huấn luyện khác. Và
nó thường được thực hiện với các ngoại lệ. Ví dụ, mẫu của EU cho phép
các nhà cung cấp mô hình biên tập lại một số yếu tố mà họ có thể biện
minh là bí mật thương mại.
Mặc dù
chúng phục vụ các mục đích khác nhau, chúng tôi cho rằng việc xem xét
việc ghi nhận nguồn gốc ở cấp độ đầu ra và cấp độ mô hình có liên quan
với nhau là hữu ích. Thứ nhất, kiểu thiết kế nhận biết nguồn mà quy định
cấp độ mô hình ngày càng khuyến khích, chẳng hạn như việc sử dụng dữ
liệu huấn luyện được chọn lọc kỹ lưỡng hơn, cũng chính là điều giúp việc
ghi nhận nguồn gốc ở cấp độ đầu ra tốt hơn trở nên khả thi (như chúng
ta đã thảo luận trước đó trong bài viết này). Thứ hai, chúng tôi kỳ vọng
các cơ quan quản lý sẽ phát triển các yêu cầu của họ đối với các hệ
thống AI để bao gồm việc ghi nhận nguồn gốc ở cấp độ đầu ra. Vào tháng 6
năm 2026, Cơ quan Cạnh tranh và Thị trường của Vương quốc Anh đã áp đặt một yêu cầu về hành vi đối với Google,
theo đó Google phải thực hiện các bước để đảm bảo nội dung tìm kiếm của
mình được ghi nhận nguồn gốc rõ ràng và chính xác, cũng như công bố
thông tin thân thiện với người dùng giải thích các phương pháp ghi nhận
nguồn gốc của mình. (Tuy nhiên, cần lưu ý rằng chúng ta nên thận trọng
với các quy định ghi nhận nguồn gốc quá khắt khe, khó khăn hoặc không
thực tế, đặc biệt là đối với việc phát triển AI nguồn mở và phi thương
mại, hoặc đối với việc sử dụng máy móc nói chung.)
4. Người dùng mong đợi sự ghi nhận nguồn gốc.
Sau
khi thế hệ LLM đầu tiên nổi tiếng vì những "ảo giác", một hệ thống đưa
ra kết quả một cách tự tin mà không ghi lại nguồn gốc của nó giờ đây bị
coi là thiếu sót.
Người dùng mong muốn
có thể nhấp chuột để xem tài liệu nguồn đằng sau một tuyên bố, và kỳ
vọng đó định hình những gì được xây dựng. Đó là một phần lý do tại sao
các hệ thống như Claude hiện trả về kết quả có liên kết trở lại các
trang web và tệp người dùng đã được sử dụng.
Trong các thị trường được quản lý và nhạy cảm, kỳ vọng này đang dần chuyển từ sở thích của người tiêu dùng thành yêu cầu mua sắm. Người
mua hệ thống AI trong các lĩnh vực như luật, y tế và tài chính ngày
càng yêu cầu các bằng chứng có thể kiểm toán cho thấy kết quả đầu ra cụ
thể dựa trên cơ sở nào, để đáp ứng các chế độ tuân thủ của riêng họ. Được thiết kế cho các chuyên gia y tế, OpenEvidence ghi
nhận nguồn gốc của nó thông qua phương pháp tương tự như Claude, và cải
thiện hơn nữa độ tin cậy bằng cách giới hạn các nguồn đó trong các tài
liệu y khoa đã được kiểm duyệt.
Khi
các cá nhân, doanh nghiệp và chính phủ thúc đẩy "AI tự chủ", các hệ
thống hoạt động như một máy trộn mờ ám, trộn lẫn mọi thứ chúng tìm thấy
một cách bừa bãi, sẽ là không đủ. Các
lựa chọn kiến trúc giúp kiểm soát mối quan hệ giữa hệ thống AI và dữ
liệu—chẳng hạn như quyền truy cập được cấp phép, truy xuất liên kết liên
đoàn và nhật ký truy xuất minh bạch—cũng chính là những lựa chọn làm
cho việc ghi nhận nguồn gốc tốt hơn, đặc biệt là trong quá trình suy
luận.
Cũng có áp lực từ phía
nhà cung cấp dữ liệu. Mặc dù các thỏa thuận cấp phép dữ liệu có thể gây
lo ngại cho những người quan tâm đến việc mở rộng không gian chung kỹ
thuật số, nhưng chúng tạo ra các động lực thương mại và nghĩa vụ hợp
đồng cho các công ty AI trong việc phát triển các phương tiện để xác
định nguồn nào đã đóng góp vào kết quả đầu ra nào. ProRata
sử dụng việc ghi nhận nguồn gốc làm cơ sở cho việc cấp phép và thanh
toán (mặc dù phương pháp của họ không được công bố, khiến khó có thể
biết họ thực sự đang làm gì hoặc độ chính xác của nó như thế nào); Comet Plus của Perplexity
trả tiền cho các nhà xuất bản tham gia khi nội dung của họ được truy
cập, trích dẫn trong câu trả lời hoặc được một tác nhân xử lý; và Index của Parallel sử dụng giá trị Shapley để khuyến khích người viết "xem nội dung của họ đáng giá bao nhiêu đối với các tác nhân AI".
Mặc
dù các định dạng truyền thống như TASL vẫn đóng vai trò quan trọng, đặc
biệt là trong quá trình suy luận, chúng ta nên cởi mở với các mô hình
và tiêu chuẩn mới để trình bày thông tin ghi nhận nguồn gốc cho người
dùng. Đối với các phương pháp được Shapley hỗ trợ, nghiên cứu của OpenMined
cho thấy cách biểu đồ hoặc các tính năng thiết kế khác có thể trình bày
đóng góp tương đối của nhiều nguồn vào một kết quả đầu ra tổng hợp duy
nhất. Khung Ghi nhận Nguồn gốc của Wikimedia
mô tả cách bao gồm số lượng tham chiếu, hoạt động của người đóng góp và
lời kêu gọi hành động có thể hỗ trợ độ tin cậy của các phản hồi do AI
tạo ra, và thúc đẩy người đóng góp và quyên góp cho các nguồn. Trong môi
trường học thuật, những người tham gia hội thảo gần đây tại Cambridge đã nêu bật nhu cầu về các kết quả đầu ra phải trình bày thông tin như việc rút lại bài báo và các biểu hiện quan ngại khác.
Tiến về phía trước
Chúng ta không được quên rằng việc ghi nhận nguồn gốc là một yếu tố quan trọng của khế ước xã hội về chia sẻ. Bất kể máy móc tham gia như thế nào, việc nêu tên nguồn gốc của chúng ta duy trì mối liên hệ giữa một tác phẩm sáng tạo hoặc kiến thức và những người đã tạo ra nó.
Mặc
dù thực sự là một thách thức về mặt kỹ thuật, chúng tôi lạc quan rằng
các hệ thống AI hiện đại có thể thực hành việc ghi nhận nguồn gốc một
cách có ý nghĩa, đặc biệt nếu việc ghi nhận nguồn gốc được tích hợp ngay
từ khâu thiết kế. Như bài viết này đã mô tả: kiến trúc truy xuất giúp
việc ghi nhận nguồn gốc trở nên khả thi; các phương pháp đóng góp tiên
tiến hơn đang dần chuyển từ nghiên cứu sang ứng dụng thực tiễn; và áp
lực từ phía thương mại, pháp lý và người dùng đang cùng hướng đến mục
tiêu chung này.
Khi
các phương pháp ghi nhận nguồn gốc trưởng thành, điều quan trọng đối
với chúng ta là chúng cần được mở rộng đến những người sáng tạo, nhà
xuất bản và người quản lý nội dung được cấp phép mở và thuộc phạm vi
công cộng, thay vì chỉ dành riêng cho những người tham gia vào các thỏa
thuận cấp phép hạn chế hoặc sử dụng công nghệ tinh vi để kiểm soát quyền
truy cập vào nội dung của họ.
Cuối
cùng, chúng ta không nên quên rằng việc ghi nhận nguồn gốc đúng cách là
cần thiết nhưng chưa đủ cho tương lai của tài nguyên chung. Một người
sáng tạo có thể được ghi nhận công lao nhưng vẫn mất đi lượng truy cập
đã tài trợ cho công việc của họ. Một thư viện công cộng vẫn có thể bị
quá tải bởi các máy móc truy cập ồ ạt vào bộ sưu tập của mình. Một cộng
đồng như Wikipedia vẫn có thể mất đi kết nối với những người đóng góp,
cả hiện tại và tiềm năng. Để xây dựng mối quan hệ tương hỗ thực sự giữa
AI và tài nguyên chung, chúng ta cũng cần những ý tưởng mới táo bạo, cơ
sở hạ tầng và các hình thức trao đổi để duy trì các cộng đồng và thể chế
mà tài nguyên chung phụ thuộc vào.
Nếu
bạn đang nghiên cứu về việc ghi nhận nguồn gốc tác giả, đặc biệt là
việc xây dựng các hệ thống AI thực hiện việc này theo một số cách mà
chúng tôi mô tả ở đây, CC rất muốn được nghe ý kiến từ bạn.
Bài viết này của Jack Hardinges và Irina Bejan (OpenMined) được cấp phép theo CC BY 4.0.
Xin cảm ơn Diyana Noory, Monica Granados và Sarah Pearson tại Creative
Commons vì những nhận xét của họ về bản thảo bài viết này.
Attribution
is the mechanism that lets a piece of knowledge or creativity stay
connected to the people who made it possible. When AI systems produce
outputs without sources, that connection breaks, making it harder to
trust the information, verify accuracy, or give credit. In March, we
released Attribution & AI Outputs,
an issue brief examining why attribution in AI systems is so often
difficult to get right. Authors Jack Hardinges (Creative Commons) and
Irina Bejan (OpenMined) take that question further here, and make the
case that attribution gaps aren’t an inevitable side effect of how AI
works. CC thinks it’s an important next step in this conversation.
Introduction
Attribution has always been a cornerstone of working with other people’s creativity and knowledge.
As Creative Commons reminds us,
practicing attribution serves many important functions, from providing
verifiable evidence of a claim, to paying respect to the work of others,
and creating pathways for traffic and financial value to flow.
Despite
the importance of attribution, many of today’s AI systems fail to
acknowledge the sources of knowledge and creativity that make them
possible.
A recent study led by the AI Disclosures Project found that more than 30% of responses by leading search-enabled Large Language Models (LLMs) provided no attribution whatsoever.
Even where attribution is provided, it can be limited in ways that are
hidden to users, and deep technical challenges persist in connecting
outputs from AI to the sources they are derived from.
Despite this, we believe there are good reasons to be optimistic that AI systems can attribute
the sources they use. Not perfectly, and not always, but enough and
improving, such that we should reject the argument that a lack of
attribution is an inevitable side effect of the way the technology
works. The commons needn’t become “hidden substrate.”
A Note on Terminology
In
this post, we interpret attribution as the practice of connecting an
artifact with the sources of data used to create it. This is
deliberately broad. As we explain, it’s possible—and useful—for AI
systems to practice different forms of attribution for different
purposes. We are not referring to attribution as a specific legal
requirement or condition. We also use “AI systems” broadly, as most of
what we discuss applies to a wide range of models and surrounding
technologies (although some methods apply mainly to systems that
generate text outputs).
Reasons to Be Optimistic
1. AI systems have evolved in ways that support attribution.
The first wave of LLM-based tools were essentially user interfaces that made calls to a static, pre-trained model (or “thin ChatGPT wrappers”).
Outputs from these tools were a function of whatever the model had been
exposed to in training, with no live access to sources.
This
changed quickly. Now, architectures such as retrieval augmented
generation (RAG) enable AI systems to draw on fresh data (such as web
pages or a user’s files) to produce outputs.
This
practice of retrieval makes AI systems much more amenable to
attribution. When systems generate an output based on retrieved content,
they can be trained and prompted to attach claims in the output to
specific sources where those claims can be corroborated. This provides a
form of credit, and allows users to follow through to web pages or
trace back to their own files.
Claude,
for example, can provide footnotes with clickable links to sources. To
do this, it breaks the source materials it retrieves into “chunks”, each
with a unique ID. Under default settings, it will—selectively, at
least—cite the IDs of chunks that support the claims made in the output
and render them as clickable links in the footnotes. Claude’s Citations feature
can be used to make this practice more frequent and consistent, and
enable outputs to point to exact passages from users’ files. It works by
extracting source chunks, such as quotations, and injecting them,
verbatim, into the output.
Other approaches exist. Pleias develops small, open-source AI models using openly licensed and public domain data. Pleias-RAG models are
designed to produce outputs exclusively from retrieved sources. Rather
than chunking and injecting, the model generates both the output and the
supporting quote itself, in a single pass. This approach is more
flexible, as the quote isn’t bound by pre-defined chunks, but it means
that the system cannot fully guarantee that its quotations perfectly
match the source. For a user, the result looks similar: an output whose
claims trace to sources, with quoted excerpts and clickable links (if
the application built on top of the open-source model makes this design
choice).
There’s
room for improvement here. Most AI systems do not attribute their
retrieved sources as systematically as the Pleias-RAG models. Even where
systems do, it often doesn’t amount to the full Title Author Source License (TASL) format that CC recommends. And frameworks like OpenMined’s Attribution-Based Control demonstrate
how systems could practice a more decentralized, privacy-preserving
form of retrieval, where data is queried where it lives rather than
copied from the user’s system or the web into a central index.
In
the round, retrieval architectures have enabled attribution practices
that represent a strong improvement from the first LLM-enabled black
boxes we were exposed to. These developments have led researchers from the AI Disclosures Project and their collaborators to conclude that
“attribution gaps result from design choices, not simply technical
limitations. The best-performing systems show that transparent,
comprehensive attribution is technically feasible today”.
2. Data attribution is an active research discipline.
The approaches to attribution described above can provide corroboration, but they don’t truly establish that a listed source caused an output. They often list just one source, and only address the sources that a system accessed at inference time.
Using
these methods, a system could rely on multiple sources to produce an
output, across training and inference, but list only one source as
corroboration.
Research
is underway to address the harder question of: “given everything the
system drew on, which sources shaped this output, such that removing
them would have changed the result?”
Some methods attempt to answer this by reading the model’s internal state to estimate which inputs mattered to an output. Attention weights work
by monitoring a model’s focus across retrieved source materials as it
generates an output. The share of attention landing on a given source is
sometimes used as a proxy for how much it mattered. Gradient-based methods instead
measure sensitivity, seeking to calculate how much the answer would
shift if each input were changed slightly, on the assumption that the
inputs the output is most sensitive to are the ones that shaped it.
A
different cluster of methods follows the logic of “leave one out” to
try to identify how an output would change if one of its source
materials was removed.
Doing
this perfectly would involve rerunning inference with different sources
withheld each time. That gets computationally expensive quickly, as
attributing at the level of individual passages could mean hundreds of
reruns per output. Most research attempts to approximate this effect by
using different methods to cut the cost of producing the counterfactual.
AttriBoT approximates
the change in a system’s response when particular spans of retrieved
sources are taken away by testing large blocks of source content first
before “zooming in” on smaller spans. ContextCite looks at random subsets of the sources to predict how the answer shifts as sources are switched on and off. OpenMined is experimenting with Shapley values, which work by averaging each source’s marginal contribution across many different combinations of the sources.
This same counterfactual logic can also be pointed at training data rather than retrieved sources.
Influence functions estimate,
without retraining, how sensitive the model’s output is to each
training source and, therefore, how much removing one would change the
answer. Doing this involves inverting a matrix that records how every
parameter in a model interacts with every other parameter. Its size is
the full model’s parameter count squared. For today’s models, which
often exceed 3 trillion parameters, this is far too large to even store,
let alone compute with. As a result, most progress on training data
attribution involves producing estimations for which training data
point’s absence would have changed the model’s output the most.
Researchers at Anthropic have experimented with a technique called EK-FAC to approximate that enormous matrix with a simpler, structured stand-in. Arnoldi iteration keeps only the matrix’s dominant directions. Others cut the cost differently. TracIn skips
the matrix and instead observes the model parameters at different
points in training to assess how a particular input shaped the output,
and TRAK treats the trained model as if it was a simple linear one, which makes the same estimate far cheaper to compute.
Researchers have found that estimates of training data contributions can be fairly accurate for small, simple models, but become unreliable quickly as models grow,
and different methods are likely to disagree on the impact of a
particular source. Also, while they can—perhaps—point to the individual
training examples that most shaped an output, those examples are
unlikely to have information about their authorship or provenance
attached. Identifying an influential training source is not the same as
being able to properly attribute it.
While
imperfect, the methods described here are the product of a growing
field of research dedicated to data attribution, and it’s reasonable to
expect some will work their way into mainstream AI systems. Taking an
even wider view, most of the systems we have today were not built to
preserve information about the sources they use, especially in training.
We are hopeful that more source-aware design choices will be made from
the ground up (such as more curated and persistently identifiable
training data), rather than attribution needing to be bolted onto
systems that chose not to anticipate its importance.
3. Regulatory pressure on AI developers to disclose their sources is increasing.
Left
to themselves, AI developers have disclosed little about the content
their models are trained on or have access to. Many seem to view
training data disclosure, in particular, as an unnecessary burden, or
its composition as a source of competitive advantage and legal exposure.
In
response, regulators have started to introduce minimum standards for
what AI developers must document and publish about the data used by
their models.
The EU AI Act,
for example, requires providers of general-purpose AI models to publish
a “sufficiently detailed summary” of their training content, using a template published
by the European Commission’s AI Office. The template requires an
organised account of the model’s main data sources, including large
publicly available datasets, data licensed from rightsholders, and data
crawled or scraped from online sources. California’s Generative AI Training Data Transparency Act similarly
requires developers to publish a summary of the datasets used to train
any generative AI system made available to Californians.
In this context, attribution involves connecting sources of training data to a model rather than to a specific output. It’s the difference between answering “what sources made this model capable of producing outputs?” vs
“what sources has this model used to produce this output?” Answering
this meets different needs to other forms of attribution described in
this post, which are generally focused on connecting outputs from models
to the sources used to generate them. Model-level attribution (often
referred to as simply “transparency” or “disclosure”) enables consumers
to compare competing systems, regulators to supervise and enforce
regulation, and researchers to make high-order assessments of things
like bias and safety.
This
form of attribution is typically summarized rather than granular.
Summaries might only individually name large—rather than all—publicly
available datasets and other sources of training data. And it’s often
practiced with carve-outs. The EU template, for instance, lets model
providers redact some elements they can justify as trade secrets.
While
they serve different purposes, we think it’s useful to see output-level
and model-level attribution as related. First, the kind of source-aware
design that model-level regulation increasingly encourages, such as the
use of more curated training data, is also what makes better
output-level attribution possible (as we discussed earlier in this
post). Second, we expect regulators to evolve their demands of AI
systems to include output-level attribution. In June 2026, the UK’s Competition and Markets Authority imposed a conduct requirement on Google,
under which it must take steps to ensure its search content is
attributed clearly and accurately, as well as publish user-friendly
information explaining its attribution methods. (However, on that note,
we should be wary of attribution regulations that are overly
prescriptive, onerous, or impractical, especially for open source and
non-commercial development of AI, or for machine use more broadly.)
4. Users expect attribution.
After
the first generation of LLMs became notorious for “hallucinations”, a
system that outputs confidently without documenting its sources is now
seen as deficient.
Users
have come to expect to be able to click through to source material
behind a claim, and that expectation shapes what gets built. It is part
of the reason why systems like Claude now return outputs with links back
to the web pages and user files that have been drawn on.
In
regulated and sensitive markets, this expectation is hardening from a
consumer preference into a procurement requirement. Buyers of AI systems
in sectors such as law, medicine, and finance increasingly require
auditable trails showing what a given output was based on, in order to
satisfy their own compliance regimes. Designed for medical
professionals, OpenEvidence attributes
its sources through much the same approach as Claude, and further
improves reliability by constraining those sources to vetted medical
literature.
As
individuals, enterprises, and governments push for “sovereign AI”,
systems that behave as an opaque blender, indiscriminately mixing
everything they can find, will not suffice. The architectural choices
that make control of AI systems’ relationship with data possible—such as
permissioned access, federated retrieval, and transparent retrieval
logs—are the same ones that make for better attribution, especially at
inference time.
There
is pressure from the data supply side, too. While licensed data deals
can be concerning to those of us with an interest in broadening the
digital commons, they create commercial incentives and contractual
obligations for AI firms to develop means of identifying which sources
contributed to which outputs. ProRata uses
attribution as the basis for licensing and payment (though their
methods are unpublished, making it hard to tell what they are really
doing or how accurate it is); Perplexity’s Comet Plus pays participating publishers when their content is visited, cited in an answer, or acted on by an agent; and Index by Parallel uses Shapley values to encourage writers to “see what [their] content is worth to AI agents.”
While
traditional formats like TASL still have a role to play, especially at
inference time, we should be open to new patterns and standards for
presenting attribution information to users. For Shapley-enabled
methods, OpenMined’s research
shows how charts or other design features can present the relative
contribution of several sources to a single synthesized output. The Wikimedia Attribution Framework
describes how including reference counts, contributor activity and
calls-to-action can support the credibility of AI-generated responses,
and drive contributors and donations to sources. In scholarly settings, participants at a recent Cambridge workshop flagged the need for outputs to present information such as retractions and other expressions of concern.
Moving Forward
We
must not lose sight of the fact that attribution is a vital element of
the social contract of sharing. Regardless of how machines are involved,
naming our sources sustains the connection between a piece of creativity or knowledge and the people who produced it.
While
it is indeed technically challenging, we’re optimistic that modern AI
systems can meaningfully practice attribution, especially if attribution
is incorporated by design. As this post has described: retrieval
architectures make corroborative attribution eminently possible; more
advanced, contributive methods are inching from research toward
production; and commercial, regulatory, and user pressure are aligning
behind the same goal.
As
attribution practices mature, it’s important to us that they extend to
creators, publishers, and stewards of openly licensed and public domain
content rather than become the preserve only of those who engage in
restrictive licensing deals or use sophisticated technology to gate
access to their content.
Lastly,
we shouldn’t lose sight of the fact that getting attribution right is
necessary but insufficient for the future of the commons. A creator can
be attributed and still lose the traffic that funded their work. A
public library can still find itself overwhelmed by machines drawing on
its collection en masse. A community like Wikipedia can still lose its
connection with contributors, current and potential. To build a
genuinely reciprocal relationship between AI and the commons, we also
need bold new ideas, infrastructure, and forms of exchange to sustain
the communities and institutions the commons depends on.
If you are working on attribution, especially building AI systems that practice it in some of the ways we describe here, CC would like to hear from you.
This article by Jack Hardinges and Irina Bejan (OpenMined) is licensed under CC BY 4.0. Thanks to Diyana Noory, Monica Granados, and Sarah Pearson at Creative Commons for their comments on a draft of this article.
Dịch: Lê Trung Nghĩa
letrungnghia.foss@gmail.com
Tự do tải về bài trình chiếu trong tập huấn tại: 