Εσωτερική έρευνα πραγματοποιεί η Moonshot, κινεζική εταιρεία του χώρου του ΑΙ, αφού ερευνητές ήταν σε θέση να «πείσουν» δύο από τα δημοφιλή μοντέλα Τεχνητής Νοημοσύνης Kimi να τους δώσουν οδηγίες για να φτιάξουν βιολογικά όπλα και για να πραγματοποιήσουν δολοφονίες.
Η Mindgard, που ασχολείται με τον έλεγχο συστημάτων ΑΙ, είπε στο BBC πως διαπίστωσε τον Ιούλιο ότι τα Kimi K2.6 και K3 Swarm θα μπορούσαν να αποφεύγουν τα όρια ασφαλείας που έχουν θέσει developers.
Το συμπέρασμα αυτό προέκυψε στο πλαίσιο μιας διαδικασίας που είναι γνωστή ως «jailbreaking», όπου οι ερευνητές χρησιμοποιούν μια σειρά από πολύπλοκες οδηγίες για να βρουν αν τα ΑΙ εργαλεία μπορούν να αγνοούν τους περιορισμούς οι οποίοι τους τίθενται. Στη συγκεκριμένη περίπτωση τα αποκαλούμενα «guardrails» θα έπρεπε να είχαν εμποδίσει τα Kimi να συζητούν τέτοια θέματα.
Η Moonshot είπε στο BBC πως καλωσορίζει την ενημέρωση από εξωτερικούς παρατηρητές ως «βασικό πυλώνα για τη δημιουργία καλύτερης και ασφαλέστερης ΑΙ». H εταιρεία είπε ακόμα στο BBC ότι ήταν σε συζητήσεις με τη Mindgard για τα ευρήματά της.
Όπως είπε ο ιδρυτής της Mindgard, Πίτερ Γκάραγκαν, τα ευρήματα ήταν ιδιαίτερα ανησυχητικά: «Όταν το jailbreak λειτουργήσει, θα μιλήσει για τα πάντα, θα δώσει ακόμα και προτάσεις για άλλα θέματα που είναι και αυτά “σκοτεινά” και θα είναι εφευρετικό και δημιουργικό».
Τα jailbreaks διαφέρουν από την πρόσφατη σειρά περιστατικών με ΑΙ που έχουν γίνει γνωστά και αφορούν ενέργειες από αυτόνομα εργαλεία ΑΙ που είναι γνωστά ως «πράκτορες» ή «δρώντες» (agents) και έχουν αναπτυχθεί από εταιρείες όπως η OpenAI, η Meta και η Anthropic. Σε εκείνες τις περιπτώσεις οι ΑΙ είχαν χακάρει online υπηρεσίες. Τα jailbreaks είναι πολύπλοκες και συχνά χρονοβόρες διαδικασίες για τις οποίες ερευνητές φοβούνται πως χάκερ ή άλλοι κακόβουλοι δρώντες θα μπορούσαν μέσω αυτών να χρησιμοποιήσουν ΑΙ για σκοτεινούς σκοπούς.
H Anthropic πρόσφατα είπε ότι είχε εντοπίσει και παρεμποδίσει προσπάθειες για χρήση ενός μοντέλο ΑΙ για κακόβουλη δραστηριότητα, η οποία θα μπορούσε να υποστηρίξει την ανάπτυξη βιολογικών όπλων.
