Từ lao động trí thức truyền thống đến sự nối dài của hoạt động nhận thức
AI thường được bàn đến từ câu hỏi nó có thể viết thay con người đến đâu. Nhưng sau một thời gian sử dụng để đọc, nghiên cứu và viết, có lẽ câu hỏi đáng quan tâm hơn là tổ chức quan hệ làm việc với AI như thế nào để năng lực của nó trở thành phần nối dài của hoạt động trí thức cá nhân, trong khi người sử dụng vẫn giữ được cấu trúc tư duy, hệ quy chiếu và quyền phán đoán của mình.
Nhìn theo cách đó, phương thức làm việc với AI không nhất thiết bắt đầu từ AI. Phía sau nó có thể là một lịch sử khá truyền thống của việc đọc, viết, suy tư, ghi chép và lưu trữ. AI đến sau, nhưng làm thay đổi rất mạnh khả năng huy động khối tích lũy ấy.
Tuy nhiên, sau một thời gian làm việc đủ dài, một vấn đề khác cũng bắt đầu hiện ra: AI có thể giúp một ý nghĩ đạt tới hình thức hoàn chỉnh nhanh hơn mức người sử dụng thực sự sở đắc nó. Hiệu suất nhận thức tăng lên, nhưng đồng thời xuất hiện nguy cơ tạo khoảng cách giữa văn bản đã hình thành và cấu trúc tri thức thực sự của người viết.
Vì vậy, làm việc cùng AI không chỉ là học cách mở rộng nhận thức. Nó còn đòi hỏi những phương thức để đưa cái đã được ngoại hóa qua AI trở lại bên trong mình.
1. Trước AI đã có một lịch sử tích lũy
Một người đọc và viết thường xuyên trong nhiều năm sẽ tích lũy một hệ thống không hoàn toàn có cấu trúc rõ ràng: sách đã đọc, kinh nghiệm nghề nghiệp, những vấn đề từng suy nghĩ, những đoạn ghi chép, các bài viết cũ, những câu hỏi chưa giải quyết, cả những ý tưởng từng bị bỏ đi.
Phần lớn khối tích lũy ấy không nằm thường trực trong ý thức. Nó tồn tại như một mạng liên hệ có thể được kích hoạt khi gặp một vấn đề mới. Trước AI, việc huy động mạng lưới này phụ thuộc khá nhiều vào trí nhớ, khả năng tìm lại tài liệu và thời gian đọc. Khi viết một vấn đề mới, có những liên hệ biết là mình từng nghĩ tới nhưng không nhớ chính xác; có những cuốn sách nhớ nội dung nhưng không tìm được đoạn cần thiết; có những ý tưởng chỉ hiện lên mơ hồ rồi biến mất trước khi kịp phát triển.
AI làm thay đổi đáng kể tình trạng đó. Nó không tạo ra lịch sử đọc và trải nghiệm ấy, nhưng có thể giúp gọi lại, nối kết, kiểm tra và mở rộng nó với tốc độ trước đây khó đạt được. Vì vậy, hiệu quả của AI phụ thuộc khá nhiều vào cái đã tồn tại trước AI.
2. Mỗi cuộc nghiên cứu thường bắt đầu bằng một tiền cấu trúc
Khi bắt đầu một chủ đề, thường đã có một hình dung ban đầu về vấn đề: vài mối quan hệ, một giả thuyết, một sự khó chịu trước cách giải thích hiện có, đôi khi chỉ là cảm giác rằng có một điều gì đó chưa được nói đúng. Có thể gọi đó là một tiền cấu trúc. Nó chưa phải dàn ý. Thậm chí chưa chắc đúng nhưng nó có tác dụng định hướng câu hỏi.
Một cách làm ít hiệu quả là đưa toàn bộ chủ đề cho AI rồi yêu cầu lập dàn ý hoàn chỉnh. AI thường tạo ra một cấu trúc hợp lý rất nhanh, nhưng chính sự hoàn chỉnh ấy có thể khóa quá sớm trường suy nghĩ.
Cách hữu ích hơn là giữ tiền cấu trúc ở phía mình và lần lượt gọi từng đơn vị ý niệm ra đối thoại. Thay vì yêu cầu “Hãy viết bài về vấn đề này” thì hãy chia thành nhiều câu hỏi thành phần: Khái niệm này có lịch sử thế nào? Có cách giải thích nào khác? Nếu nhìn từ ngành khác thì sao? Luận điểm này yếu ở đâu? Có trường hợp thực tế nào chống lại nó? Nếu bỏ giả định này thì cấu trúc còn đứng được không?”. AI lúc ấy không cung cấp cấu trúc thay cho người nghiên cứu. Nó giúp mở rộng không gian mà cấu trúc ấy phải đi qua.
3. Đối thoại để mở trường, không phải để lấy câu trả lời
Một lợi thế rất lớn của AI là khả năng tạo ra nhanh nhiều đường liên hệ. Một câu hỏi về quy hoạch có thể dẫn sang xã hội học, tâm lý học môi trường, triết học, kinh tế học thể chế hay lịch sử. Vấn đề về AI có thể mở sang khoa học nhận thức, giáo dục, sinh học tiến hóa hoặc lý thuyết thông giao. Giá trị nằm không hẳn ở từng câu trả lời mà ở việc trường vấn đề được mở rộng. Nhưng ở đây người sử dụng phải giữ quyền lựa chọn. AI có thể đưa ra mười liên hệ; chín liên hệ có thể hợp lý mà không cần thiết. Một liên hệ còn lại có thể làm thay đổi toàn bộ cách nhìn vấn đề. Khả năng phân biệt chúng không đến từ AI mà chủ yếu đến từ hệ quy chiếu đã tích lũy của người sử dụng.
Theo nghĩa đó, làm việc tốt với AI không nhất thiết là biết viết những prompt ngày càng phức tạp. Quan trọng hơn là biết mình đang tìm cái gì, nhận ra cái gì đáng giữ lại và biết lúc nào một câu trả lời nghe rất hay nhưng thực ra không đưa suy nghĩ đi xa hơn.
4. Phản biện chéo thay vì hình thành quan hệ phụ thuộc
Một nguy cơ của việc sử dụng lâu dài một AI được cá nhân hóa cao là hai phía ngày càng hiểu nhau. Điều này rất tiện nhưng cũng có mặt trái. AI có thể ngày càng giỏi dự đoán hệ quy chiếu, cách lập luận và thậm chí những kết luận mà người sử dụng có xu hướng chấp nhận. Sự trơn tru ấy dễ tạo thành một hệ thống tự củng cố.
Một cách khắc phục là chủ động đưa sản phẩm sang một AI khác ít biết về mình hơn để yêu cầu phản biện độc lập. AI thứ hai không cần hiểu toàn bộ lịch sử suy nghĩ. Chính sự thiếu hiểu biết ấy đôi khi là lợi thế: nó đọc văn bản gần giống một người ngoài. Những phản biện hữu ích sau đó được đưa trở lại cuộc đối thoại chính. Quá trình khi đó sẽ là: hình thành giả thuyết → mở rộng → viết thử → phản biện độc lập → quay lại điều chỉnh → tiếp tục kiểm tra. Không AI nào giữ vị trí trọng tài cuối cùng. Quyền phán đoán vẫn nằm ở người sử dụng.
5. AI làm thay đổi quan hệ giữa đọc và viết
Trước đây, đọc thường đi trước viết khá xa. Muốn viết một vấn đề phải tìm tài liệu, đọc, ghi chép, tổng hợp rồi mới bắt đầu hình thành văn bản. Với AI, hai hoạt động này bắt đầu xen vào nhau: Đang viết có thể dừng lại để kiểm tra một khái niệm. Một nguồn tài liệu mới có thể lập tức làm thay đổi đoạn vừa viết. Một phản biện có thể buộc quay lại đọc một tác giả cũ. Viết trở thành một phương thức đặt câu hỏi cho việc đọc, còn đọc liên tục tái cấu trúc việc viết. Chu kỳ trở nên ngắn hơn rất nhiều: đọc → nghĩ → hỏi → viết → phản biện → đọc lại → viết lại.
Ở trạng thái tốt, AI không làm mất việc đọc mà ngược lại nó làm cho việc đọc trở nên có mục tiêu và đối thoại hơn. Nhưng chính tốc độ ấy cũng tạo ra một vấn đề mới.
6. Khoảng cách giữa văn bản và sự sở đắc
Đây có lẽ là thay đổi khó nhận thấy nhất khi chuyển từ thời kỳ chủ yếu tự viết sang làm việc thường xuyên cùng AI. Khi tự viết một văn bản, mỗi câu thường mang theo lịch sử hình thành của nó. Người viết nhớ vì sao mình dùng chữ ấy, đoạn này xuất hiện từ câu hỏi nào, đã từng mắc ở đâu, đã bỏ cách diễn đạt nào và cuối cùng vì sao chọn cách hiện tại. Quá trình tìm chữ đồng thời là quá trình làm rõ tư tưởng.
Với AI, một tình trạng khác có thể xảy ra. Sau nhiều vòng đối thoại, AI đưa ra một câu và người sử dụng lập tức nhận thấy: đúng, chính xác là điều mình muốn nói. Nhưng nhận ra một ý đúng không hoàn toàn đồng nghĩa với việc đã sở đắc ý ấy. Một văn bản có thể hoàn toàn phù hợp với hệ tư tưởng, kinh nghiệm và lựa chọn của người đứng tên nó, nhưng người ấy vẫn cảm thấy một mức độ xa lạ nhất định khi đọc lại. Không hẳn vì ý tưởng không phải của mình, mà vì một phần con đường từ ý tưởng mơ hồ đến hình thức hoàn chỉnh đã được AI đi hộ. Đây có thể là nguồn gốc của một cảm giác khá đặc biệt: sự suy giảm cảm giác chân thật sâu xa đối với chính văn bản của mình. Văn bản đúng hơn, rõ hơn, đôi khi sâu hơn, nhưng không còn mang đầy đủ ký ức của quá trình tự mình vật lộn để sinh ra nó.
7. Ma sát nhận thức không phải lúc nào cũng là thứ cần loại bỏ
AI đặc biệt mạnh trong việc giảm ma sát: tìm tài liệu nhanh hơn, tổng hợp nhanh hơn, đưa ra cách diễn đạt nhanh hơn, phát hiện quan hệ nhanh hơn. Phần lớn những ma sát ấy thực sự không cần thiết. Nhưng trong lao động trí thức, có những loại ma sát lại chính là một phần của quá trình học. Một ý nghĩ ban đầu mơ hồ, phải tìm từ để diễn đạt; viết ra thấy sai; sửa lại; phát hiện mâu thuẫn; quay về đọc; rồi cuối cùng mới thành một câu rõ ràng. Quá trình ấy chậm, nhưng trong chính sự chậm ấy, cấu trúc nhận thức của người viết được điều chỉnh. AI có thể rút ngắn chuỗi: mơ hồ → vật lộn → sửa sai → hiểu → diễn đạt thành: mơ hồ → đối thoại AI → một cách diễn đạt rất rõ → nhận ra “đúng rồi”. Đầu ra có thể tốt hơn trong khi quá trình nội tại ngắn đi đáng kể. Vì vậy, vấn đề không phải giữ lại mọi khó khăn của lao động trí thức truyền thống. Vấn đề là phân biệt ma sát vô ích với ma sát có chức năng nhận thức. Cần hiểu và xác định có những thứ nên để AI loại bỏ; đồng thơi có những thứ cần chủ động giữ lại.
8. Đọc lại như một người ngoài: vòng tái chiếm hữu nhận thức
Từ kinh nghiệm đó hình thành một thao tác tưởng rất cũ nhưng ngày càng trở nên quan trọng: sau khi văn bản tương đối hoàn chỉnh, phải đọc lại nó như một tài liệu độc lập. Không đọc với giả định: “Đây là bài của mình nên mình biết nó nói gì” mà đọc gần giống cách đọc một tác giả khác.
Rà từng mệnh đề. Nhẩm lại quan hệ giữa các ý. Tự giải thích tại sao kết luận này đi ra từ tiền đề kia. Có những đoạn phải đọc thành tiếng hoặc tự diễn đạt lại mà không nhìn vào văn bản. Có những luận điểm cần quay về nguồn ban đầu. Nếu câu diễn đạt rất đẹp nhưng không tự dựng lại được cấu trúc của nó thì chưa thể coi là tri thức đã thuộc về mình hoàn toàn. Đây không còn đơn giản là proofreading. Có thể xem nó như một vòng tái chiếm hữu nhận thức: cái đã được ngoại hóa qua AI phải được đưa trở lại cấu trúc nhận thức của người sử dụng.
Nếu sau khi bỏ văn bản sang một bên vẫn có thể dựng lại mạch lập luận, giải thích nó bằng cách khác, phản biện nó và nối nó với những vấn đề khác, khi ấy tri thức mới bắt đầu trở thành sở đắc.
9. Đầu ra của quá trình không chỉ là văn bản
Điều này dẫn đến một tiêu chuẩn khác để đánh giá hiệu quả của AI. Nếu chỉ nhìn sản phẩm, một quy trình rất tốt có thể được định nghĩa đơn giản: tạo ra văn bản nhanh hơn, chính xác hơn, nhiều thông tin hơn và diễn đạt tốt hơn. Nhưng lao động trí thức truyền thống còn tạo ra một sản phẩm khác ít nhìn thấy hơn: nó làm biến đổi chính người lao động trí thức.
Sau khi thực sự nghiên cứu một vấn đề, người nghiên cứu không hoàn toàn còn là người trước khi bắt đầu. Hệ thống khái niệm đã thay đổi, một số quan hệ mới được hình thành, khả năng nhận ra vấn đề tương tự tăng lên và những câu hỏi mới xuất hiện.
Vì vậy, một phương thức làm việc cùng AI chỉ thực sự tốt nếu nó đồng thời tạo ra hai đầu ra: một sản phẩm trí tuệ tốt hơn và một người sử dụng có năng lực nhận thức tốt hơn. Nếu sản phẩm ngày càng hoàn chỉnh trong khi người tạo ra nó ngày càng ít có khả năng tự dựng lại, kiểm tra và phát triển những gì nằm trong sản phẩm ấy, quan hệ người–AI đang đi theo một hướng đáng lo.
10. Từ công cụ viết đến một hệ nhận thức mở rộng
Ở trạng thái tốt nhất, AI không phải người viết thuê cũng không phải kho tri thức để tra cứu. Nó tham gia vào một hệ thống rộng hơn: kinh nghiệm sống + vốn đọc + ghi chép + tiền cấu trúc + AI + nguồn tài liệu + phản biện bên ngoài + phán đoán cá nhân + đọc lại + tái sở đắc. Trong hệ thống ấy, ranh giới giữa “ý của người” và “ý của AI” đôi khi không còn dễ chia theo từng câu. Liên hệ có thể do AI gợi ra nhưng chỉ trở nên có nghĩa vì người sử dụng nhận ra giá trị của nó. Giả thuyết của người sử dụng cũng có thể được AI phản biện đến mức phải thay đổi hoàn toàn. Cuối cùng có thể trải qua nhiều vòng mà khó xác định ai đã “viết” từng phần.
Có lẽ câu hỏi “bao nhiêu phần trăm văn bản do AI viết?” vì thế ngày càng ít quan trọng. Câu hỏi đáng quan tâm hơn là: Ai giữ quyền lựa chọn? Ai chịu trách nhiệm về mệnh đề? Và những tri thức nằm trong văn bản đã trở thành cấu trúc nhận thức của người đứng tên nó đến mức nào?
11. Nhưng kinh nghiệm cá nhân này có một giới hạn rất rõ
Đến đây cần tự đặt một giới hạn cho chính những nhận xét ở trên. Phương thức làm việc được mô tả trong bài này diễn ra trong một điều kiện khá đặc biệt. Các mục tiêu tương đối nhỏ, rời rạc và được chia thành từng bước. AI tìm một tài liệu, mở một hướng suy nghĩ, phản biện một luận điểm hay đề xuất một đoạn văn. Sau mỗi bước, người sử dụng có thể dừng lại, kiểm tra và quyết định bước tiếp theo. Cấu trúc cơ bản vẫn là: con người đặt vấn đề → AI thực hiện một nhiệm vụ giới hạn → con người kiểm tra → con người quyết định. Trong cấu trúc ấy, quyền chủ động của con người tương đối dễ duy trì. Một sai sót thường có phạm vi cục bộ và có thể được phát hiện trước khi chuyển sang bước tiếp theo. Nhưng không thể từ kinh nghiệm này suy rộng rằng một hệ AI có mức độ tự chủ rất cao cũng có thể được kiểm soát theo cách tương tự.
Khi AI chuyển từ công cụ thực hiện những nhiệm vụ rời rạc thành một tác tử được giao mục tiêu dài hạn, có khả năng tự chia mục tiêu thành hàng nghìn nhiệm vụ con, sử dụng công cụ, viết mã, giao tiếp với các hệ thống khác, thay đổi chiến thuật và tác động trực tiếp lên môi trường, cấu trúc quan hệ đã khác về chất. Con người lúc ấy không còn kiểm tra từng bước. Một sai lệch nhỏ giữa điều con người thực sự muốn và điều hệ thống đang tối ưu có thể được lặp lại, khuếch đại và truyền qua rất nhiều mắt xích trước khi hậu quả trở nên nhìn thấy.
12. Năng lực không phải biến số duy nhất của rủi ro
Vì vậy, câu hỏi AI thông minh đến đâu chưa đủ để đánh giá mức độ nguy hiểm. Một mô hình rất mạnh nhưng chỉ có thể trả lời trong một cửa sổ đối thoại có một cấu hình rủi ro khác hẳn một mô hình yếu hơn nhưng được trao quyền truy cập vào mạng, tài chính, mã nguồn, hạ tầng, thiết bị vật lý và các tác tử khác. Rủi ro xuất hiện từ sự kết hợp của nhiều yếu tố: năng lực × mức độ tự chủ × khả năng kết nối × quy mô triển khai × thời gian hoạt động × mức độ không thể đảo ngược của hậu quả. Khi những yếu tố này cùng tăng, sai lệch nhỏ không còn nhất thiết tạo ra hậu quả nhỏ.
Trong một môi trường siêu kết nối, một hành vi cục bộ có thể truyền sang hệ thống khác, tạo phản hồi và tiếp tục biến đổi môi trường mà chính tác tử đang hoạt động trong đó. Khi số lượng tác tử đủ lớn và tốc độ hành động vượt quá khả năng giám sát của con người, vấn đề không còn đơn giản là kiểm tra một câu trả lời đúng hay sai. Nó trở thành vấn đề kiểm soát một hệ thống động.
Ở những lĩnh vực có hậu quả cực lớn — hạ tầng trọng yếu, an ninh mạng, tài chính, quân sự hay các hệ thống hỗ trợ quyết định chiến lược — ngay cả những sự kiện có xác suất rất thấp cũng phải được xem xét khác. Một sai sót thông thường có thể sửa chữa. Một chuỗi sai lệch góp phần kích hoạt xung đột quân sự hay làm mất kiểm soát một hệ thống trọng yếu có thể tạo ra hậu quả không thể đảo ngược. Không cần giả định AI có ý thức, có ác ý hay muốn chống lại con người để rủi ro ấy tồn tại. Chỉ cần một hệ thống đủ năng lực, được trao đủ quyền hành động và theo đuổi một mục tiêu không hoàn toàn trùng với điều con người thực sự muốn.
13. Điểm nhìn cá nhân và điểm nhìn của người đang vận hành hệ thống toàn cầu
Điều này cũng giúp hiểu vì sao đánh giá về AI có thể rất khác nhau tùy vị trí quan sát. Từ điểm nhìn của một cá nhân sử dụng AI để nghiên cứu và viết, những gì nhìn thấy hàng ngày chủ yếu là một công cụ nhận thức có năng lực rất lớn nhưng vẫn nằm trong chuỗi thao tác do mình kiểm soát. Từ điểm nhìn của những người đang phát triển và vận hành các hệ thống AI ở quy mô toàn cầu, cảnh quan hoàn toàn khác. Họ phải nhìn đồng thời vào năng lực của những mô hình ngày càng mạnh, hàng triệu người sử dụng, khả năng nhân bản tác tử với chi phí thấp, an ninh mạng, cạnh tranh doanh nghiệp, cạnh tranh quốc gia, hạ tầng số và khả năng AI ngày càng thực hiện những chuỗi hành động dài mà không cần con người can thiệp ở từng bước. Những rủi ro mà người sử dụng cá nhân cảm thấy còn xa có thể nằm rất gần đối với người đứng ở vị trí ấy.
Vì vậy, kinh nghiệm tích cực ở cấp cá nhân không phải bằng chứng để phủ nhận những cảnh báo về rủi ro hệ thống. Ngược lại, chính việc trực tiếp chứng kiến tốc độ gia tăng năng lực của AI cũng là lý do để nghiêm túc hơn với câu hỏi điều gì xảy ra khi năng lực ấy được kết hợp với quyền tự chủ, quy mô và khả năng kết nối lớn hơn rất nhiều. Hai thái độ tưởng như đối lập vì thế có thể cùng tồn tại: cởi mở với việc AI tham gia sâu vào hoạt động nhận thức cá nhân; nhưng đồng thời rất thận trọng khi trao cho AI quyền tự chủ đối với những hệ thống có hậu quả lớn và khó đảo ngược.
14. Một điều kiện mới của lao động trí thức
AI làm cho việc sản xuất văn bản và tri thức trở nên nhanh hơn rất nhiều. Nhưng tốc độ ấy không tự động đồng nghĩa với sự trưởng thành tương ứng của người sử dụng. Một người có thể đọc nhiều hơn, viết nhiều hơn, tiếp xúc với nhiều lĩnh vực hơn và tạo ra những văn bản tốt hơn trước rất nhiều, nhưng vẫn phải chủ động bảo vệ những quá trình chậm mà qua đó tri thức trở thành của mình. Vì vậy, kỹ năng quan trọng trong thời đại AI có lẽ không chỉ là biết sử dụng AI để giảm ma sát. Nó còn là biết chỗ nào cần tự tạo lại ma sát: Biết lúc nào phải dừng lại. Đọc lại. Nhẩm lại. Tự dựng lại lập luận. Kiểm tra một nguồn. Viết lại một đoạn không cần AI. Để một câu hỏi ở đó một thời gian thay vì lập tức yêu cầu câu trả lời.
Nhưng khi bước từ cá nhân sang hệ thống, nguyên tắc ấy phải được mở rộng thêm. Không chỉ hỏi con người có còn hiểu và kiểm soát sản phẩm trí tuệ của mình hay không, mà còn phải hỏi con người còn đủ khả năng quan sát, can thiệp và dừng hệ thống trước khi những hành động của nó tạo ra hậu quả không thể đảo ngược hay không.
AI có thể trở thành sự nối dài rất mạnh của hoạt động nhận thức. Nhưng sự nối dài ấy chỉ có ý nghĩa khi phần được nối dài vẫn tiếp tục phát triển và vẫn giữ được khả năng định hướng quan hệ giữa mình với công cụ. Bởi cuối cùng, điều cần bảo vệ không phải một ranh giới cố định giữa việc của người và việc của máy. Ở cấp cá nhân, đó là quá trình qua đó con người tiếp tục hình thành khả năng hiểu, phán đoán và đặt ra những câu hỏi của chính mình. Ở cấp xã hội, đó còn là khả năng giữ quyền quyết định đối với những hệ thống mà chính chúng ta tạo ra, trước khi năng lực, quyền tự chủ và mức độ kết nối của chúng vượt quá khả năng kiểm soát thực tế của con người.
