Κέρδη και Ασφάλεια: Η Πρωτοβουλία του Νικητή του Νόμπελ προς το OpenAI και τον Sam Altman

Το OpenAI έχει προχωρήσει επιθετικά εξελίσσοντας συνεχώς την τεχνολογία AI του και φέρνοντας διάφορες καινοτομίες. Καθώς ένας αυξανόμενος αριθμός εταιρειών επικεντρώνεται περισσότερο στην ανάπτυξη προϊόντων και υπηρεσιών αιχμής με τεχνητή νοημοσύνη, υπάρχει αυξανόμενη ανησυχία για την επίτευξη ισορροπίας μεταξύ καινοτομίας, κέρδους και ηθικής, ειδικά στον κλάδο της τεχνολογίας.

Το OpenAI έχει βρεθεί στη μέση των αμφιλεγόμενων συζητήσεων σχετικά με την αλλαγή της κατεύθυνσης και την ιεράρχηση των κερδών που ακόμη και μερικές φορές θέτει σε κίνδυνο την ασφάλεια. Τώρα, ένας νικητής του βραβείου Νόμπελ έχει διατυπώσει έναν τέτοιο ισχυρισμό για τον Sam Altman και τις διαδρομές κατά τη διάρκεια της ηγεσίας του.

Ο νικητής του βραβείου Νόμπελ ισχυρίζεται ότι ο Διευθύνων Σύμβουλος του OpenAI Sam Altman απολύθηκε λόγω της εστίασής του στη δημιουργία κερδών και όχι στην ασφάλεια

Πρόσφατα, ο Geoffrey E. Hinton και ο John J. Hopfield έλαβαν το βραβείο Νόμπελ για τη συμβολή τους στην ανάπτυξη της Τεχνητής νοημοσύνης και η τεχνολογία τους χρησιμοποιείται από πολλούς τεχνολογικούς γίγαντες, συμπεριλαμβανομένου του OpenAI για τα chatbot του και της Google για τις μηχανές αναζήτησής τους. Στην πραγματικότητα, ο Ilya Sutskever ήταν πρώην επικεφαλής επιστήμονας στο OpenAI και κάποτε ήταν μαθητής του Hinton. Αν και αναγνώρισε τη συμβολή του Sutskever, ανέφερε επίσης την απογοήτευσή του για την τρέχουσα κατεύθυνση του OpenAI και την επιθετική εστίαση στα κέρδη από τον CEO Sam Altman.

Χίντον αποκαλύφθηκε περαιτέρω ότι η αυξανόμενη εστίαση στην εμπορευματοποίηση χωρίς να λαμβάνεται υπόψη η ασφάλεια της τεχνητής νοημοσύνης οδήγησε στην εκδίωξη του Sam Altman για λίγο. Αργότερα αποκαταστάθηκε μετά από πιέσεις άλλων μελών της εταιρείας. Ο Σάτσκεβερ προχώρησε στην απόλυση του Άλτμαν, αλλά αμέσως μετά την αποκατάσταση, έφυγε από την εταιρεία λόγω του αγχωτικού εργασιακού περιβάλλοντος μεταξύ των δύο.

Η δήλωση του Hinton σχετικά με την εστίαση του Sam Altman στα κέρδη δεν είναι η πρώτη, καθώς την κατηγορία συμμερίζονται πολλοί στην τεχνολογική κοινότητα και για την αλλαγή εστίασης του OpenAI από εταιρεία που επικεντρώνεται σε μεγάλο βαθμό στην ασφάλεια στο να παρεκκλίνει από αυτό το μονοπάτι και να κινείται προς τα κέρδη. Πολλοί ανώτεροι υπάλληλοι αποχώρησαν λόγω των συνεχιζόμενων μεταβάσεων, και τώρα, μόνο τρεις συνιδρυτές παραμένουν στην εταιρεία.

Η ηγεσία του OpenAI έχει τεράστια ευθύνη στον καθορισμό του μέλλοντος της τεχνητής νοημοσύνης και του αντίκτυπου που θα είχε στην κοινωνία, και η ηγεσία του Sam Altman έχει προκαλέσει κριτική από πολλούς, συμπεριλαμβανομένου του Ilya Sutskever, ο οποίος πιστεύει ότι η εταιρεία εστιάζει όλο και περισσότερο στα κέρδη και δεν δίνει προτεραιότητα στην ασφάλεια της το σύστημα AI του πλέον. Δεν υπάρχει αμφιβολία ότι η εταιρεία έχει τεράστια επιτυχία και μπόρεσε να αποκτήσει γρήγορα μια ευρεία βάση χρηστών, αλλά δεδομένων των πιθανών κινδύνων που μπορεί να επιφέρει η προηγμένη τεχνητή νοημοσύνη, είναι ζωτικής σημασίας να αντιμετωπιστούν τα ηθικά ερωτήματα και να ληφθεί υπόψη ο κοινωνικός αντίκτυπος της τεχνητής νοημοσύνης .