Cảnh báo rủi ro tiềm ẩn khi sử dụng AI

Chương trình gồm 3 nội dung chính: Tổng quan về trí tuệ nhân tạo trong công tác tham mưu; giới thiệu các công cụ AI phổ biến và ứng dụng AI vào công việc thực tiễn.

Mở đầu buổi tập huấn, đồng chí Lê Anh Thái, Trung tâm Chuyển đổi số, Sở Khoa học và Công nghệ tỉnh Yên Bái, đặt vấn đề: “Làm thế nào để sử dụng AI mà không bị phụ thuộc, học cách sử dụng AI như một trợ lý giúp hoàn thành các công việc?”.

Theo đồng chí Lê Anh Thái, việc ứng dụng AI vào công việc sẽ giúp tăng năng suất, nâng cao chất lượng và mở rộng khối lượng công việc. AI có thể hỗ trợ tối ưu hóa quy trình xử lý thông tin, giúp người dùng tiếp cận và phân tích dữ liệu nhanh hơn.

Bên cạnh việc giới thiệu những lợi ích của trí tuệ nhân tạo, đồng chí Lê Anh Thái cũng cảnh báo các cán bộ đoàn, đoàn viên thanh niên về những rủi ro tiềm ẩn khi sử dụng AI. Theo đồng chí, một trong những nguy cơ lớn là việc rò rỉ bí mật nhà nước, thông tin mật, dữ liệu chưa được công bố hoặc tài liệu lưu trữ nội bộ nếu người dùng không kiểm soát chặt chẽ.

Tuy nhiên, đồng chí Lê Anh Thái nhấn mạnh: “AI không thể thay thế hoàn toàn vai trò của cán bộ tham mưu. Công tác này đòi hỏi phải nắm chắc tình hình chính trị, có khả năng phân tích, phán đoán sát với thực tiễn. Trong khi đó, AI vẫn còn hạn chế, dễ mắc lỗi và có thể đưa ra thông tin sai lệch. Con người vẫn giữ vai trò kiểm định, còn AI chỉ là công cụ hỗ trợ”.

Đồng chí Lê Anh Thái nhấn mạnh, người sử dụng AI cần thận trọng trong việc cung cấp dữ liệu cho các công cụ trí tuệ nhân tạo, đồng thời phải kiểm duyệt, rà soát kỹ lưỡng trước khi sử dụng các nội dung do AI tạo ra, đặc biệt là trong các bài phát biểu, văn bản chính thức. “Cán bộ phải kiểm tra, thẩm định và chịu trách nhiệm về nội dung khi sử dụng công cụ AI”, đồng chí Thái lưu ý.

Đoàn viên, thanh niên vùng cao tham gia chương trình cũng được hướng dẫn cách tiếp cận và sử dụng AI một cách an toàn, bắt đầu từ những nhiệm vụ có mức độ rủi ro thấp như tóm tắt tin tức, xử lý văn bản không liên quan đến thông tin mật.

Theo hướng dẫn, hiệu quả sử dụng AI phụ thuộc nhiều vào chất lượng dữ liệu đầu vào. Người dùng cần diễn đạt cụ thể, cung cấp đầy đủ thông tin, đồng thời liên tục thử nghiệm và điều chỉnh câu lệnh để AI đưa ra kết quả phù hợp. "Không yêu cầu AI phán đoán liên quan đến chính trị, đạo đức, các trách nhiệm liên quan đến giải trình cao", chuyên gia AI của Sở Khoa học Công nghệ tỉnh Yên Bái chia sẻ.

Trong chương trình, các đoàn viên, thanh niên được giới thiệu và hướng dẫn sử dụng nhiều công cụ AI phổ biến như ChatGPT, CapCut, các ứng dụng chuyển giọng nói thành văn bản, hỗ trợ thiết kế logo, tạo hình ảnh và video.

“Việc sử dụng AI dựa trên hệ thống câu lệnh, gọi là prompt. Khi tạo ảnh hoặc video bằng AI, người dùng cần tập trung mô tả rõ nội dung và bối cảnh để đạt hiệu quả như mong muốn”, ông Thái lưu ý.

Đặc biệt, các đoàn viên, thanh niên cũng được giới thiệu, tiếp cận với ứng dụng ai.doanthanhnien.vn - AI riêng để xử lý các công việc, viết nội dung cho cán bộ đoàn, đoàn viên, thanh niên.