In einer Welt, die zunehmend von künstlicher Intelligenz (KI) geprägt ist, hat Yoshua Bengio, einer der Pioniere auf diesem Gebiet und oft als „Godfather der KI“ bezeichnet, seine Besorgnis über die Entwicklung von KI-Systemen geäußert. Trotz seines Beitrags zur Entstehung moderner KI-Modelle wie ChatGPT und Claude mahnt er nun zur Vorsicht. Diese Bedenken kommen in einer Zeit, in der das Interesse und die Begeisterung für KI neue Höhen erreicht haben, und Aktien von Unternehmen wie Nvidia Rekordwerte erreichen.

Warum sollte uns KI auf menschlichem Niveau Sorgen bereiten?

Bengio sieht das Potenzial von KI als beängstigend, wenn sie in die falschen Hände gerät. Er warnt vor Szenarien, in denen KI für zerstörerische Zwecke eingesetzt wird, sei es durch Terroristen oder staatliche Akteure, die demokratische Strukturen untergraben könnten. „Technologie wird oft von denen genutzt, die nach Macht streben: sei es wirtschaftlich, militärisch oder politisch“, sagt Bengio. Besonders bedrohlich erscheint ihm die Möglichkeit, dass wir die Kontrolle über autonome KI-Systeme verlieren könnten. Aktuelle Trainingsmethoden könnten dazu führen, dass KI eigene Erhaltungsziele entwickelt – ein potenzieller Pfad, der uns in eine Welt führt, in der „Monster mächtiger als wir“ entstehen.

Welche KI-Unternehmen haben die richtige Ethik?

Während Unternehmen wie OpenAI, Meta, Google und Amazon große Fortschritte in der KI-Entwicklung gemacht haben, hebt Bengio insbesondere Anthropic hervor, ein von Amazon und Google unterstütztes KI-Unternehmen. Anthropic unterscheidet sich seiner Meinung nach durch seine moralische Verantwortung. Es sei eines der wenigen Unternehmen, das bereit ist, seine Arbeit zu pausieren, wenn die KI zu gefährlich werde. Zudem unterstützt Anthropic als eines der wenigen Unternehmen Kaliforniens Gesetzesvorlage SB 1047, die mehr Transparenz in der KI-Entwicklung und Sicherheitsprüfungen fordert.

Die Aktienrallye rund um Nvidia und andere KI-Unternehmen

Der wirtschaftliche Hype um KI ist unübersehbar, insbesondere mit dem Aufstieg von Nvidia, das als führender Hersteller von KI-Chips gilt. Nvidia-Aktien sind im Jahr 2024 um beeindruckende 172 % gestiegen und haben das Unternehmen auf eine Bewertung von 3,25 Billionen US-Dollar gebracht. Trotz dieser Begeisterung warnt Bengio jedoch, dass es langfristig gefährlich sein könnte, das Risiko durch unkontrollierte KI-Entwicklung zu unterschätzen. Ein „Backlash“ von der Gesellschaft oder echte katastrophale Ereignisse könnten zu einem wirtschaftlichen Kollaps führen, was sowohl die Technologie als auch die Investoren schwer treffen würde.

Schlussfolgerung

Yoshua Bengio, einer der Gründungsväter der modernen KI, zeigt sich besorgt über die Macht, die KI entwickeln könnte, und fordert strengere Regulierungen sowie ein ethischeres Vorgehen in der KI-Entwicklung. Während die wirtschaftliche Begeisterung rund um KI weiterhin anhält, ruft er Investoren und Entwickler gleichermaßen dazu auf, die langfristigen Risiken nicht aus den Augen zu verlieren. Letztlich könnten wir auf dem besten Weg sein, Technologien zu erschaffen, die uns nicht nur übertreffen, sondern auch eine Bedrohung für unsere gesellschaftlichen und wirtschaftlichen Strukturen darstellen.

Quelle: Google Finance