Trong một thông báo ngày 24/10, Moonshot cho biết đã loại bỏ dữ liệu liên quan đến an ninh mạng khỏi tập dữ liệu huấn luyện và môi trường học tăng cường được sử dụng để phát triển mô hình, đồng thời duy trì các năng lực lập trình nói chung. Công ty khẳng định mục tiêu là không phát hành các mô hình có trọng số mở với năng lực tấn công mạng vượt quá giới hạn hiện tại.
Moonshot mô tả Kimi K3.1 Pro là mô hình có trọng số mở thuộc lớp 3.000 tỷ tham số và mạnh nhất của hãng. Công ty dự kiến công bố các tệp trọng số vào ngày 4/11, cho phép các nhà phát triển bên ngoài tự vận hành và điều chỉnh mô hình trên hệ thống của mình. Theo Moonshot, Kimi K3.1 Pro đạt 81% trong bài kiểm tra nội bộ về an ninh mạng, thấp hơn mức 90,5% của phiên bản tương tự chưa áp dụng các biện pháp giảm thiểu rủi ro. Bài kiểm tra đánh giá khả năng tìm kiếm và khai thác lỗ hổng phần mềm trong môi trường được kiểm soát. Công ty cho biết kết quả cho thấy việc lọc dữ liệu liên quan đến an ninh mạng đã làm giảm năng lực tấn công của mô hình, dù hiệu suất vẫn cao hơn phiên bản tiền nhiệm. Các kết quả này chưa được xác minh độc lập.
Những lo ngại về nguy cơ AI bị lợi dụng để tấn công mạng đang gia tăng trong giới chính phủ, doanh nghiệp công nghệ và các nhà nghiên cứu bảo mật. Các mô hình có khả năng viết mã, sử dụng công cụ phần mềm và thực hiện những nhiệm vụ nhiều bước có thể hỗ trợ người dùng phát hiện điểm yếu trong chương trình, đồng thời tự động hóa một phần quá trình tấn công.
Tuần trước, Trung Quốc đề xuất các biện pháp kiểm soát xuất khẩu nhằm cấm xuất khẩu công nghệ tạo và biến đổi mã độc bằng AI, đồng thời hạn chế các công cụ phát hiện lỗ hổng có sự hỗ trợ của AI. Dự thảo đang được lấy ý kiến công chúng, trong đó nêu nguy cơ các công nghệ này bị sử dụng để tấn công cơ sở hạ tầng trọng yếu, các hệ thống công nghiệp quốc phòng và cơ quan chính phủ chủ chốt, hoặc vượt qua các cơ chế bảo vệ an ninh.
Moonshot cho rằng các mô hình có trọng số mở cũng có thể góp phần tăng cường an ninh, giúp nhiều tổ chức kiểm tra và bảo vệ phần mềm của chính mình, bao gồm cả những hệ thống cũ ít được chú ý. Tuy nhiên, khác với các hệ thống AI đóng, việc phát hành trọng số mở khiến khả năng giám sát tập trung trở nên khó khăn hơn. Khi các tệp được phân phối rộng rãi, nhà phát triển ban đầu sẽ khó kiểm soát quyền truy cập, theo dõi việc sử dụng hoặc cập nhật các biện pháp bảo vệ như đối với dịch vụ AI vận hành trực tuyến.
Ngoài ra, Moonshot cho biết Kimi K3.1 Pro có cửa sổ ngữ cảnh một triệu token, cho phép xử lý lượng văn bản rất lớn trong một lần. Công ty cũng ra mắt phiên bản K3.1 Pro Highspeed, có tốc độ vận hành nhanh gấp 2-3 lần phiên bản tiêu chuẩn.
