Nghiên cứu mới cho thấy sự phụ thuộc quá mức vào AI có thể cản trở suy nghĩ phê phán

Theo các nhà nghiên cứu tại Microsoft và Đại học Carnegie Mellon, sự phụ thuộc quá mức vào các hệ thống AI có thể cản trở tiềm năng tư duy phê phán của chúng ta khi mọi người giảm tải tổng hợp cho máy móc, theo các nhà nghiên cứu tại Đại học Microsoft và Carnegie Mellon. Nghiên cứu sẽ được trình bày tại Hội nghị Chi về các yếu tố con người trong các hệ thống điện toán ở Yokohama, Nhật Bản, vào tháng Tư.

Trong nghiên cứu, các nhà nghiên cứu định nghĩa tư duy phê phán là một kim tự tháp phân cấp, với kiến ​​thức ở trên đỉnh, tiếp theo là sự hiểu biết về các ý tưởng, đưa ý tưởng vào thực tiễn, phân tích chống lại các ý tưởng liên quan, tổng hợp hoặc kết hợp những ý tưởng đó và đánh giá ý tưởng thông qua một tiêu chí đã đặt ra.

Dựa trên các cuộc khảo sát của 319 công nhân tri thức, thường có thể được phân loại là công việc cổ trắng, nghiên cứu cho thấy rằng trong khi AI thế hệ có thể cải thiện hiệu quả “, nó có thể ức chế sự tham gia quan trọng với công việc và có khả năng dẫn đến sự vượt quá thời gian dài đối với công cụ và giảm kỹ năng để giải quyết vấn đề độc lập. ”

Các nhà nghiên cứu nhận thấy rằng các công nhân thích sử dụng AI để kiểm tra lại công việc của họ và làm như vậy bằng cách so sánh nó với các nguồn bên ngoài khác để đáp ứng một tiêu chí nhất định. Mặc dù điều này chắc chắn đòi hỏi phải phân tích quan trọng, các nhà nghiên cứu lưu ý rằng việc sử dụng AI của người lao động để tự động hóa các nhiệm vụ thường xuyên hoặc cổ phần thấp hơn làm tăng mối lo ngại về “sự phụ thuộc lâu dài và giảm giải quyết vấn đề độc lập”.

Thật thú vị, khi người lao động có niềm tin cao hơn vào các phản ứng của AI, nó “xuất hiện để giảm bớt nỗ lực nhận thức cần thiết cho các nhiệm vụ tư duy phê phán.” Tuy nhiên, những người lao động thực sự tin vào chuyên môn của chính họ cuối cùng đã nỗ lực nhiều hơn trong việc đánh giá các phản ứng của AI. Vì vậy, trong khi AI có thể giúp người lao động lấy thông tin nhanh hơn, cuối cùng họ có thể dành nhiều thời gian hơn để cố gắng xác minh tất cả thông tin đó là chính xác và không phải là ảo giác.

“Khi các công nhân chuyển từ thực hiện nhiệm vụ sang giám sát AI, họ giao dịch tham gia thực hành cho thách thức xác minh và chỉnh sửa đầu ra AI, tiết lộ cả lợi ích hiệu quả và rủi ro của sự phản ánh quan trọng giảm dần”, nghiên cứu cho biết.

Tuy nhiên, các nhà nghiên cứu không muốn mọi người đi đến kết luận dứt khoát về việc sử dụng AI và suy nghĩ phê phán. Họ thừa nhận rằng các mối tương quan không chỉ ra nguyên nhân. Không thể nhìn thấy bên trong tâm trí con người và biết chính xác những suy nghĩ nào đang nảy lên khi một người đọc câu trả lời do AI tạo ra.

Tuy nhiên, dữ liệu đã dẫn đến một số khuyến nghị từ các nhà nghiên cứu. Nghiên cứu cho biết khi người lao động chuyển từ các nhiệm vụ thu thập thông tin sang xác minh thông tin nhiều hơn, họ nên được đào tạo về tầm quan trọng của việc tham khảo chéo đầu ra AI và đánh giá mức độ liên quan của họ.

Nghiên cứu diễn ra khi AI đang sinh sôi nảy nở trên tất cả các lĩnh vực, với các tác động đặc biệt lớn đối với các doanh nghiệp, có thể thấy giảm 41% lực lượng lao động, theo một khảo sát của Diễn đàn Kinh tế Thế giới. Đã, các CEO công nghệ lớn thừa nhận rằng họ đã giảm tải nhiều nhiệm vụ hơn cho AI, dẫn đến sa thải và ít cơ hội việc làm hơn. Giám đốc điều hành của Klarna nói với BBC rằng ông đã giảm lực lượng lao động của mình từ 5.000 xuống còn 3.800 và có kế hoạch giảm xuống còn 2.000, nhưng thừa nhận rằng các nhân viên còn lại sẽ được trả nhiều tiền hơn.

Một loạt các mệnh lệnh điều hành liên quan đến an toàn AI của cựu Tổng thống Joe Biden đã bị Tổng thống Donald Trump lật ngược, đưa ra những bảo vệ công nghệ lớn hơn. Tuần trước, Google đã dỡ bỏ lệnh cấm đối với AI đang được sử dụng để phát triển vũ khí và công cụ giám sát. Tất cả những thay đổi này làm cho kết quả của nghiên cứu này phù hợp hơn khi người lao động có quyền truy cập vào nhiều công cụ AI hơn và được giao nhiệm vụ giám sát nhiều thông tin do AI tạo ra.

Các nhà nghiên cứu đã chỉ ra rằng với bất kỳ sự đổi mới công nghệ mới nào, mối quan tâm của việc suy giảm nhận thức của con người là phổ biến. Ví dụ, họ lưu ý rằng Socrates phản đối việc viết, Trithemius phản đối việc in ấn và các nhà giáo dục từ lâu đã cảnh giác với máy tính và sử dụng internet.

Nhưng họ cũng chỉ ra, “một sự trớ trêu quan trọng của tự động hóa là bằng cách cơ giới hóa các nhiệm vụ thường xuyên và để xử lý ngoại lệ cho người dùng con người, bạn sẽ tước đi những cơ hội thường xuyên để thực hành phán đoán của họ và củng cố cơ bắp nhận thức của họ, khiến họ bị mất tích và Không chuẩn bị khi các ngoại lệ phát sinh. “