Σύστημα τεχνητής νοημοσύνης πρότεινε 40.000 νέα πιθανά χημικά όπλα σε μόλις έξι ώρες

Χρειάστηκαν λιγότερο από έξι ώρες για σύστημα τεχνητής νοημοσύνης που αναπτύσσει φάρμακα, για να εφεύρει 40.000 δυνητικά θανατηφόρα μόρια. Οι ερευνητές έβαλαν την τεχνητή νοημοσύνη, που συνήθως χρησιμοποιείται για την αναζήτηση χρήσιμων φαρμάκων, σε ένα είδος λειτουργίας για να βλάψει, για να δείξουν πόσο εύκολα θα μπορούσε να γίνει κατάχρηση για βιολογικό έλεγχο των όπλων.

Το μόνο που έπρεπε να κάνουν οι ερευνητές ήταν να τροποποιήσουν τη μεθοδολογία τους για να αναζητήσουν, αντί να εξαλείψουν, τοξικές ουσίες και το σύστημα βρήκε δεκάδες χιλιάδες από αυτές. Τρομαγμένοι, οι ερευνητές δημοσίευσαν τα ευρήματά τους στο περιοδικό Nature Machine Intelligence.

Όπως ανέφερε ερευνητής στο The Verge, το μεγαλύτερο εύρημα ήταν ότι πολλές από τις παραγόμενες ενώσεις προβλεπόταν ότι ήταν στην πραγματικότητα πιο τοξικές από τη VX, την πιο τοξική χημική ένωση. Αυτό σημαίνει ότι όλες αυτές οι ενώσεις χρειάζονται πολύ λίγη ποσότητα για να είναι θανατηφόρες.

Για τον ερευνητή, η ανησυχία ήταν το πόσο εύκολα μπορεί να γίνει κάτι τέτοιο. Πολλά από τα πράγματα που χρησιμοποιήσαν είναι πραγματικά και τα δεδομένα μπορεί να τα βρει ο οποιοσδήποτε, επομένως μπορεί ο καθένας που διαθέτει γνώσεις, να φτιάξει ένα μοντέλο τοξικότητας, και τέτοια όπλα θα μπορούσαν να χρησιμοποιηθούν σε πολέμους.

Τέλος, ανέφερε ότι “Θέλουμε απλώς περισσότεροι ερευνητές να αναγνωρίσουν και να γνωρίζουν μια πιθανή κακή χρήση. Όταν ξεκινάτε να εργάζεστε στον χώρο της χημείας, ενημερώνεστε για την κακή χρήση της χημείας και είστε κατά κάποιο τρόπο υπεύθυνοι να φροντίσετε να το αποφύγετε όσο το δυνατόν περισσότερο. Στη μηχανική μάθηση, δεν υπάρχει τίποτα τέτοιο. Δεν υπάρχουν οδηγίες για κακή χρήση της τεχνολογίας.”

πηγή: theverge.com

_

AK