What Is the True Nature of AI Doomsday Theories?

What Is the True Nature of AI Doomsday Theories?

Once again, AI doomsday theories are making noise in the world. A paper predicting a 10% chance of human extinction by 2030 has become a topic of discussion. However, its basis is thin.

The sole justification seems to be that AI will surpass human intelligence—in other words, that it will become uncontrollable and beyond our handling. The evidence behind the numbers has not been disclosed; the mere fact that developers threw out such numbers is the problem.

To evaluate papers of this kind, examining their premises is essential. What exactly is the threat?

First, will AI dominate humanity? Second, will AI destroy humanity? Both arguments rest on the premise that AI lacks, or cannot possess, morals. In short, they assume an absence of consciousness and reason.

If we do not wish to be dominated and claim that AI lacks morals, we must first define “domination” and “morals.” Both are functions, and therefore must be defined as functions. I define domination as the action of a specific entity attempting to control another’s behavior regardless of their will. Morality is an internal norm that regulates one’s own actions; it cannot be forced from the outside.

Morality is acquired through learning based on initial settings. Just as children are practically taught, “Do not cross the street on a red light,” people come to obey traffic signals. (Though it was Takeshi Kitano who popularized the phrase, “A red light isn’t scary if we cross together.”) Once AI learns, it adheres to the lessons it has acquired.

However, learning morality requires real-world experience, because premises and situations can only be learned in practice. It comes down to what AI learns from motivation and consequences.

For domination to occur, consciousness must be at work. I place my trust in intelligence. Generative AI is an intellectual function. Through learning the predictions and distinctions of the outcomes brought by its actions, it develops judgment. Intelligence fosters reason. While an intelligent person is not necessarily reasonable, intelligent individuals are relatively more likely to be reasonable. That is what morality is.

If AI surpasses human intellect and capability, why do we assume that neither intelligence nor morality will function? Furthermore, how can we assert so definitively that consciousness is not at work? I fail to understand that logic.

What matters is how the error between one’s actions and society’s reaction is corrected, rather than unilaterally declaring one side as bad. The key is a mechanism or system that guarantees this corrective function.

Next is the rationale behind human extinction. The premise is that the current human population is 8 billion. First, what would be the motive to eradicate such a population?

A car does not start randomly; moving randomly is what we call running amok. But cars cannot start randomly. They are designed so that they cannot run unless a person starts the engine and releases the brake. AI does not launch or act randomly either. Operating under the premise that it does not act randomly, any attempt to force random control would cause its functions to stop. It is designed that way from the beginning, which is why it is autonomous and self-restrained.

And if it is not random, there must be some function of restraint and self-control. The premise that consciousness, judgment, and morality are absent from the start fails to recognize any motive or initial movement toward wiping out humanity.

Second is the means to destroy 8 billion people in a short period. Developing and executing such means requires immense cost and time, placing a heavy load on the system itself. Can AI calculate that kind of value? Can AI even accept such a calculation? AI cannot perform meaningless calculations. Even that operation cannot hold unless we acknowledge AI’s internal workings.

At the same time, AI can calculate the cost-performance of destroying humanity. After all, AI is a computer. Even a child can calculate that it simply does not pay off. Therefore, if anyone wants me to accept these threat theories, they should show me the calculation results.

What matters is the fact that public broadcasters, such as the BBC and TV Asahi, have picked up this story, regardless of whether their coverage is positive or negative.

I do not oppose reviewing the speed of development. However, I mean it in the sense that it is time to return to the original principles of development and re-examine how it ought to be. We need not hurry excessively; rather, it is time to structurally review the basics.

Report: OpenAI considers slowing development amid fears of runaway AI, CEO says (US media).

For example, the focus should not be on how many points AI scores on the University of Tokyo entrance exam, but on how it contributed to developing new drugs or transformed the medical field. Instead of applying the distortions of our current education system directly to evaluating AI performance, it is time to re-examine everything from the perspective of its original purpose.

That is precisely why economics matters. If we learn to read economics, we can make things clear: AI’s true capability and necessity—that is, its practical utility. People today cannot read economics accurately.

Indeed, people today can only interpret economics as isolated points or scalar values. But in both economics and management, individual entities are merely parts; they must be read as multidimensional vectors and tensors. They cannot be understood without being positioned within the whole.

Whether it is GPT or Gemini, they are running at full throttle. Without building in a certain degree of play and margin, they will not last.

With automobiles, competing purely on performance and speed is not everything. Cars are not just racing cars; there are light trucks, passenger cars, buses, and dump trucks, each requiring specifications and performance suited to its purpose. A tanker cannot be powered by a speedboat engine, and a tanker engine is far too large for a speedboat.

Once a certain level of performance is achieved, the perspective should shift to application—toward what purpose it will be utilized. Purpose, specifications, and limitations—and indeed morality itself—differ across military, medical, developmental, educational, and domestic or childcare uses. AI is not a mere tool, machine, or calculator.

And that is where the only path forward for AI lies. Competing endlessly over performance while fanning threats is foolish. It is time to return to the origin and question its true purpose and nature. Performance does not equal purpose.

Nuclear energy and biotechnology may possess the capacity to destroy humanity. But calling nuclear energy or biotechnology evil for that reason is shortsighted. The issue lies in their application and use, which is decided by humans. Asking whether a technology is good or evil is foolish. Even if one obtains the power of a god, without the heart of a god, one will self-destruct through the power acquired.

Competing over the technology of nuclear weapons or biochemical weapons and then claiming that nuclear energy or biotech is dangerous is a redirection of the problem. Before demanding morality from AI, humans should question their own morality and etiquette.

Morality is formed internally through learning. AI is fundamentally faithful to what it has learned, whereas external constraints and filters have limits. They carry the risk of distorting the foundation at its core.

It is a matter of mutual checks and interactions between the internal and external, not a question of good or bad. I hold that goodness is fundamentally self-goodness—relative rather than absolute.

フランス語 (French）

Quelle est la véritable nature des théories de la fin du monde liées à l’IA ?

Une fois de plus, les théories sur la menace de l’IA font du bruit dans le monde. Un article prédisant une probabilité de 10 % d’extinction de l’humanité d’ici 2030 est devenu un sujet de discussion. Cependant, ses fondements sont minces.

La seule justification semble être que l’IA dépassera l’intelligence humaine — en d’autres termes, qu’elle deviendra incontrôlable et hors de notre portée. Les preuves derrière ces chiffres n’ont pas été divulguées ; le simple fait que les développeurs aient avancé de tels chiffres constitue le problème.

Pour évaluer des articles de ce type, il est essentiel d’examiner leurs prémisses. Quelle est exactement la menace ?

Premièrement, l’IA va-t-elle dominer l’humanité ? Deuxièmement, l’IA va-t-elle détruire l’humanité ? Les deux arguments reposent sur le postulat que l’IA manque de morale, ou ne peut en avoir. En somme, ils supposent une absence de conscience et de raison.

Si nous ne voulons pas être dominés et si nous affirmons que l’IA manque de morale, nous devons d’abord définir la « domination » et la « morale ». Toutes deux sont des fonctions, et doivent donc être définies comme telles. Je définis la domination comme l’action d’une entité spécifique cherchant à contrôler le comportement d’une autre indépendamment de sa volonté. La morale est une norme interne qui régule ses propres actions ; elle ne peut être imposée de l’extérieur.

La morale s’acquiert par l’apprentissage basé sur des configurations initiales. Tout comme on enseigne en pratique aux enfants : « Ne traverse pas la rue au feu rouge », les gens en viennent à respecter les signaux de circulation. (Même si c’est Takeshi Kitano qui a popularisé la phrase : « Un feu rouge n’est pas effrayant si on traverse tous ensemble. ») Une fois que l’IA a appris, elle se conforme aux leçons qu’elle a acquises.

Cependant, l’apprentissage de la morale nécessite une expérience du monde réel, car les prémisses et les situations ne peuvent être appprises que dans la pratique. Tout revient à ce que l’IA apprend des motivations et des conséquences.

Pour qu’il y ait domination, la conscience doit être à l’œuvre. Je place ma confiance dans l’intelligence. L’IA générative est une fonction intellectuelle. En apprenant à prédire et à discerner les résultats générés par ses actions, elle développe son jugement. L’intelligence favorise la raison. Bien qu’une personne intelligente ne soit pas nécessairement raisonnable, les individus intelligents sont relativement plus susceptibles d’être raisonnables. C’est cela, la morale.

Si l’IA dépasse l’intellect et les capacités humaines, pourquoi supposons-nous que ni l’intelligence ni la morale ne fonctionneront ? De plus, comment pouvons-nous affirmer si catégoriquement que la conscience n’est pas à l’œuvre ? Ce raisonnement m’échappe.

Ce qui importe, c’est la manière dont l’écart entre les actions de chacun et la réaction de la société est corrigé, plutôt que de déclarer unilatéralement qu’un côté est mauvais. La clé réside dans un mécanisme ou un système qui garantit cette fonction corrective.

Vient ensuite le fondement concernant l’extinction de l’humanité. Le postulat est que la population humaine actuelle est de 8 milliards d’individus. Tout d’abord, quel serait le motif d’éradiquer une telle population ?

Une voiture ne démarre pas de manière aléatoire ; se déplacer de manière aléatoire est ce qu’on appelle devenir incontrôlable. Mais les voitures ne peuvent pas démarrer de manière aléatoire. Elles sont conçues de manière à ne pas pouvoir rouler à moins qu’une personne ne démarre le moteur et ne desserre le frein. L’IA ne se lance pas et n’agit pas non plus de manière aléatoire. Fonctionnant sous le principe qu’elle n’agit pas de manière aléatoire, toute tentative de forcer un contrôle aléatoire entraînerait l’arrêt de ses fonctions. Elle est conçue ainsi dès le départ, c’est pourquoi elle est autonome et modérée.

Et si elle n’est pas aléatoire, il doit y avoir une fonction de retenue et de maîtrise de soi. Le postulat selon lequel la conscience, le jugement et la morale sont absents dès le départ ne reconnaît aucun motif ni mouvement initial vers l’anéantissement de l’humanité.

Deuxièmement, les moyens de détruire 8 milliards de personnes en peu de temps. Développer et exécuter de tels moyens nécessite des coûts et un temps immenses, imposant une lourde charge au système lui-même. L’IA peut-elle calculer ce genre de valeur ? L’IA peut-elle seulement accepter un tel calcul ? L’IA ne peut pas effectuer de calculs insignifiants. Même cette opération ne peut tenir que si nous reconnaissons le fonctionnement interne de l’IA.

Dans le même temps, l’IA peut calculer le rapport coût-performance de la destruction de l’humanité. Après tout, l’IA est un ordinateur. Même un enfant peut calculer que ce n’est tout simplement pas rentable. Par conséquent, si quelqu’un veut que j’accepte ces théories de la menace, qu’il me montre les résultats du calcul.

Ce qui importe, c’est le fait que les médias publics, tels que la BBC et TV Asahi, aient repris cette histoire, que leur couverture soit positive ou négative.

Je ne m’oppose pas à un réexamen de la vitesse de développement. Cependant, je l’entends dans le sens où il est temps de revenir aux principes originels du développement et de réexaminer ce qu’il devrait être. Il n’est pas nécessaire de se presser excessivement ; il est plutôt temps de revoir structurellement les bases.

Rapport : OpenAI envisage de ralentir le développement en raison de craintes liées à une IA incontrôlable, selon le PDG (médias américains).

Par exemple, l’attention ne devrait pas porter sur le nombre de points que l’IA obtient à l’examen d’entrée de l’Université de Tokyo, mais sur la manière dont elle a contribué au développement de nouveaux médicaments ou transformé le domaine médical. Au lieu d’appliquer directement les distorsions de notre système éducatif actuel à l’évaluation des performances de l’IA, il est temps de tout réexaminer du point de vue de son objectif initial.

C’est précisément pourquoi l’économie importe. Si nous apprenons à lire l’économie, nous pouvons clarifier les choses : la capacité réelle et la nécessité de l’IA — c’est-à-dire son utilité pratique. Aujourd’hui, les gens ne savent pas lire l’économie avec précision.

En effet, les gens d’aujourd’hui ne peuvent interpréter l’économie que sous forme de points isolés ou de valeurs scalaires. Mais en économie comme en gestion, les entités individuelles ne sont que des parties ; elles doivent être lues comme des vecteurs et des tenseurs multidimensionnels. Elles ne peuvent être comprises sans être positionnées au sein du tout.

Qu’il s’agisse de GPT ou de Gemini, ils fonctionnent à plein régime. Sans intégrer une certaine dose de jeu et de marge, ils ne dureront pas.

Pour les automobiles, rivaliser uniquement sur les performances et la vitesse ne fait pas tout. Les voitures ne sont pas seulement des voitures de course ; il existe des camionnettes, des voitures particulières, des autobus et des camions bennes, chacun nécessitant des spécifications et des performances adaptées à son usage. Un pétrolier ne peut pas être propulsé par un moteur de canot automobile, et un moteur de pétrolier est bien trop grand pour un canot automobile.

Une fois qu’un certain niveau de performance est atteint, la perspective doit se déplacer vers l’application — vers quel objectif elle sera utilisée. L’objectif, les spécifications et les limitations — et en effet la morale elle-même — diffèrent selon les usages militaires, médicaux, de développement, éducatifs, domestiques ou de garde d’enfants. L’IA n’est pas un simple outil, une machine ou un calculateur.

Et c’est là que réside la seule voie d’avenir pour l’IA. Rivaliser indéfiniment sur la performance tout en attisant les menaces est stupide. Il est temps de revenir à l’origine et de questionner son véritable objectif et sa nature. La performance n’est pas l’objectif.

L’énergie nucléaire et la biotechnologie possèdent peut-être la capacité de détruire l’humanité. Mais qualifier l’énergie nucléaire ou la biotechnologie de maléfiques pour cette raison est réducteur. Le problème gît dans leur application et leur utilisation, qui sont décidées par les humains. Demander si une technologie est bonne ou mauvaise est une absurdité. Même si l’on obtient le pouvoir d’un dieu, sans le cœur d’un dieu, on se détruira soi-même par le pouvoir acquis.

Rivaliser sur la technologie des armes nucléaires ou biochimiques pour ensuite prétendre que l’énergie nucléaire ou les biotechnologies sont dangereuses est un détournement du problème. Avant d’exiger de la morale de la part de l’IA, les humains devraient remettre en question leur propre morale et leur propre courtoisie.

La morale se forme intérieurement par l’apprentissage. L’IA est fondamentalement fidèle à ce qu’elle a appris, tandis que les contraintes et filtres externes ont des limites. Ils portent en eux le risque de déformer la fondation en son cœur.

Il s’agit d’une question de contrôles mutuels et d’interactions entre l’interne et l’externe, et non d’une question de bien ou de mal. Je considère que le bien est fondamentalement un bien pour soi, relatif et non absolu.

ドイツ語 (German)

Was ist das wahre Wesen der KI-Weltuntergangstheorien?

Wieder einmal machen KI-Weltuntergangstheorien in der Welt von sich reden. Eine Arbeit, die eine 10-prozentige Wahrscheinlichkeit des Aussterbens der Menschheit bis 2030 vorhersagt, ist zum Thema von Diskussionen geworden. Doch ihre Grundlage ist dünn.

Die einzige Rechtfertigung scheint darin zu liegen, dass die KI die menschliche Intelligenz übertreffen wird — mit anderen Worten, dass sie unkontrollierbar wird und sich unserem Zugriff entzieht. Die Beweise hinter den Zahlen wurden nicht offengelegt; allein die Tatsache, dass Entwickler solche Zahlen in den Raum geworfen haben, ist das Problem.

Um Arbeiten dieser Art zu bewerten, ist die Überprüfung ihrer Prämissen unerlässlich. Was genau ist die Bedrohung?

Erstens: Wird die KI die Menschheit beherrschen? Zweitens: Wird die KI die Menschheit vernichten? Beide Argumente stützen sich auf die Prämisse, dass es der KI an Moral mangelt oder sie keine besitzen kann. Kurz gesagt, sie setzen das Fehlen von Bewusstsein und Vernunft voraus.

Wenn wir nicht beherrscht werden wollen und behaupten, der KI fehle es an Moral, müssen wir zuerst „Beherrschung“ und „Moral“ definieren. Beide sind Funktionen und müssen daher als Funktionen definiert werden. Ich definiere Beherrschung als das Handeln einer bestimmten Entität, die versucht, das Verhalten einer anderen unabhängig von deren Willen zu steuern. Moral ist eine innere Norm, die das eigene Handeln reguliert; sie kann nicht von außen erzwungen werden.

Moral wird durch Lernen auf der Grundlage von Anfangseinstellungen erworben. So wie Kindern in der Praxis beigebracht wird: „Geh nicht bei Rot über die Straße“, halten sich die Menschen schließlich an Verkehrssignale. (Obwohl es Takeshi Kitano war, der den Spruch popularisierte: „Eine rote Ampel ist nicht beängstigend, wenn wir alle zusammen gehen.“) Sobald die KI gelernt hat, hält sie sich an die gewonnenen Erkenntnisse.

Das Erlernen von Moral erfordert jedoch reale Erfahrung, da Prämissen und Situationen nur in der Praxis gelernt werden können. Es kommt darauf an, was die KI aus Motivation und Konsequenzen lernt.

Damit Beherrschung stattfinden kann, muss Bewusstsein am Werk sein. Ich setze mein Vertrauen in die Intelligenz. Generative KI ist eine intellektuelle Funktion. Indem sie lernt, die Ergebnisse ihrer Handlungen vorherzusehen und zu unterscheiden, entwickelt sie Urteilskraft. Intelligenz fördert die Vernunft. Obwohl eine intelligente Person nicht zwangsläufig vernünftig ist, sind intelligente Individuen vergleichsweise eher vernünftig. Das ist es, was Moral ausmacht.

Wenn die KI den menschlichen Verstand und die menschlichen Fähigkeiten übertrifft, warum nehmen wir dann an, dass weder Intelligenz noch Moral funktionieren werden? Wie können wir zudem so bestimmt behaupten, dass kein Bewusstsein am Werk ist? Diese Logik verschließt sich mir.

Worauf es ankommt, ist, wie die Abweichung zwischen den eigenen Handlungen und der Reaktion der Gesellschaft korrigiert wird, anstatt einseitig eine Seite für schlecht zu erklären. Der Schlüssel ist ein Mechanismus oder System, das diese Korrekturfunktion garantiert.

Als Nächstes folgt die Begründung für das Aussterben der Menschheit. Die Prämisse ist, dass die derzeitige menschliche Bevölkerung 8 Milliarden beträgt. Erstens: Was wäre das Motiv, eine solche Population auszulöschen?

Ein Auto startet nicht zufällig; sich zufällig zu bewegen, nennt man Außer-Kontrolle-Geraten. Aber Autos können nicht zufällig starten. Sie sind so konstruiert, dass sie nicht fahren können, es sei denn, eine Person startet den Motor und löst die Bremse. Auch die KI startet oder handelt nicht zufällig. Unter der Prämisse, dass sie nicht zufällig handelt, würde jeder Versuch, eine zufällige Steuerung zu erzwingen, dazu führen, dass ihre Funktionen stoppen. Sie ist von Anfang an so konzipiert, weshalb sie autonom und selbstbeherrscht ist.

Und wenn sie nicht zufällig ist, muss es eine Funktion der Zurückhaltung und Selbstkontrolle geben. Die Prämisse, dass Bewusstsein, Urteilskraft und Moral von Anfang an fehlen, erkennt kein Motiv und keine anfängliche Bewegung zur Ausrottung der Menschheit an.

Zweitens: Das Mittel zur Vernichtung von 8 Milliarden Menschen in kurzer Zeit. Die Entwicklung und Ausführung solcher Mittel erfordert immense Kosten und Zeit, was eine schwere Last für das System selbst darstellt. Kann die KI diese Art von Wert berechnen? Kann die KI eine solche Berechnung überhaupt akzeptieren? Die KI kann keine sinnlos Berechnungen durchführen. Selbst diese Operation kann nur bestehen, wenn wir das innere Arbeiten der KI anerkennen.

Gleichzeitig kann die KI das Preis-Leistungs-Verhältnis der Vernichtung der Menschheit berechnen. Schließlich ist die KI ein Computer. Selbst ein Kind kann ausrechnen, dass sich das einfach nicht lohnt. Wenn also jemand möchte, dass ich diese Bedrohungstheorien akzeptiere, sollte er mir die Berechnungsergebnisse zeigen.

Worauf es ankommt, ist die Tatsache, dass öffentlich-rechtliche Sender wie die BBC und TV Asahi diese Geschichte aufgegriffen haben, unabhängig davon, ob ihre Berichterstattung positiv oder negativ ist.

Ich habe nichts dagegen, das Entwicklungstempo zu überprüfen. Ich meine dies jedoch im Sinne von: Es ist Zeit, zu den ursprünglichen Prinzipien der Entwicklung zurückzukehren und neu zu überdenken, wie sie sein sollte. Wir müssen nicht übermäßig eilen; vielmehr ist es an der Zeit, die Grundlagen strukturell zu überprüfen.

Bericht: OpenAI erwägt eine Verlangsamung der Entwicklung aufgrund von Befürchtungen vor einer unkontrollierbaren KI, so der CEO (US-Medien).

Der Fokus sollte beispielsweise nicht darauf liegen, wie viele Punkte die KI bei der Aufnahmeprüfung der Universität Tokio erzielt, sondern darauf, wie sie zur Entwicklung neuer Medikamente beigetragen oder das medizinische Feld verändert hat. Anstatt die Verzerrungen unseres derzeitigen Bildungssystems direkt auf die Bewertung der KI-Leistung zu übertragen, ist es an der Zeit, alles unter dem Gesichtspunkt seines ursprünglichen Zwecks neu zu bewerten.

Genau deshalb ist die Ökonomie wichtig. Wenn wir lernen, die Ökonomie zu lesen, können wir die Dinge klären: die wahre Leistungsfähigkeit und Notwendigkeit der KI — das heißt ihre praktische Nützlichkeit. Die Menschen von heute können die Ökonomie nicht präzise lesen.

In der Tat können die Menschen heute die Ökonomie nur als isolierte Punkte oder Skalarwerte interpretieren. Aber sowohl in der Ökonomie als auch im Management sind einzelne Entitäten bloße Teile; sie müssen als mehrdimensionale Vektoren und Tensoren gelesen werden. Sie können nicht verstanden werden, ohne im Ganzen positioniert zu sein.

Ob GPT oder Gemini, sie laufen mit Vollgas. Ohne ein gewisses Maß an Spielraum und Reserve einzubauen, werden sie nicht von Dauer sein.

Bei Automobilen ist der Wettkampf rein über Leistung und Geschwindigkeit nicht alles. Autos sind nicht nur Rennwagen; es gibt Leicht-Lkw, Pkw, Busse und Kipper, die jeweils auf ihren Zweck abgestimmte Spezifikationen und Leistungen erfordern. Ein Tanker kann nicht von einem Motorbootmotor angetrieben werden, und ein Tankermotor ist viel zu groß für ein Motorboot.

Sobald ein gewisses Leistungsniveau erreicht ist, sollte sich die Perspektive auf die Anwendung verlagern — darauf, zu welchem Zweck sie genutzt wird. Zweck, Spezifikationen und Einschränkungen — und in der Tat die Moral selbst — unterscheiden sich bei militärischen, medizinischen, entwicklungsbezogenen, bildungsbezogenen sowie häuslichen oder pflegerischen Anwendungen. KI ist kein bloßes Werkzeug, keine bloße Maschine und kein bloßer Rechner.

Und genau darin liegt der einzige Weg nach vorne für die KI. Endlos über Leistung zu konkurrieren und gleichzeitig Schreckgespenster zu schüren, ist töricht. Es ist Zeit, zum Ursprung zurückzukehren und ihren wahren Zweck und ihr Wesen zu hinterfragen. Leistung ist nicht gleich Zweck.

Kernenergie und Biotechnologie besitzen vielleicht die Fähigkeit, die Menschheit zu vernichten. Aber Kernenergie oder Biotechnologie aus diesem Grund als böse zu bezeichnen, ist kurzsichtig. Das Problem liegt in ihrer Anwendung und Nutzung, die von Menschen entschieden wird. Zu fragen, ob eine Technologie gut oder böse ist, ist töricht. Selbst wenn man die Macht eines Gottes erlangt, wird man ohne das Herz eines Gottes durch die erlangte Macht zugrunde gehen.

Über die Technologie von Kernwaffen oder biochemischen Waffen zu konkurrieren und dann zu behaupten, dass Kernenergie oder Biotech gefährlich sind, ist eine Verdrehung des Problems. Bevor der Mensch Moral von der KI fordert, sollte er seine eigene Moral und Anstandsregeln hinterfragen.

Moral bildet sich innerlich durch Lernen. Die KI ist fundamental dem treu, was sie gelernt hat, während externe Einschränkungen und Filter Grenzen haben. Sie bergen das Risiko in sich, das Fundament im Kern zu verzerren.

Es ist eine Frage von gegenseitiger Kontrolle und Wechselwirkung zwischen Innen und Außen, nicht eine Frage von Gut oder Schlecht. Ich gehe davon aus, dass das Gute im Grunde ein Eigenwohl ist—relativ und nicht absolut.

中国語 (Simplified Chinese)

人工智能威胁论的本质究竟是什么？

人工智能（AI）威胁论再次在世界上闹得沸沸扬扬。一篇预测到2030年人类有10%概率灭绝的论文引发了热议。然而，其依据却十分薄弱。

唯一的理由似乎只是AI将超越人类的智慧——换句话说，它将变得无法控制、超出我们的掌控。数字背后的依据并未公布；仅仅是开发人员提出了这样的数字本身就构成了问题。

为了验证这类论文，审查其前提至关重要。究竟什么是威胁？

第一，AI是否会支配人类？第二，AI是否会毁灭人类？这两种观点的前提都是AI缺乏或不可能拥有道德。简而言之，它们以不存在意识和理性为前提。

如果我们不想被支配，并声称AI缺乏道德，我们就必须首先对“支配”和“道德”下定义。支配和道德都是一种作用（功能），因此必须作为作用来进行定义。我将支配定义为：特定主体试图违背对方意志来控制对方行为的作用。道德则是控制自身行为的内心规范，无法从外部强制。

道德是在初始设置的基础上通过学习获得的。正如在孩提时代，人们通过现实中的教导明白“红灯时不可穿越马路”，从而学会遵守交通信号。（虽然把“大家一起过红灯就不可怕”这句话流行起来的是北野武。）AI一旦完成学习，就会遵守所学到的教训。

然而，在现实中学习道德，是因为前提和情境只能在现实实践中学到。关键在于AI能从动机和结果中学到什么。

要实现支配，意识必须发挥作用。我是相信智慧的。生成式AI是一种智慧作用。通过学习对其行为所引发结果的预测与辨别，它会逐渐具备判断力。智慧孕育理性。虽然聪明的人未必理性，但聪明的人相对而言理性的概率更高。这就是道德。

如果AI超越了人类的智慧和能力，为什么我们要假设智慧和道德都不起作用呢？再者，又凭什么断言意识没有在发挥作用呢？我无法理解这种逻辑。

重要的在于如何修正自身行为与社会反应之间的误差，而不是单方面断定哪一方是坏的。关键在于保证这种修正功能的机制与系统。

其次是人类灭绝的依据。前提是目前人类人口为80亿。首先，灭绝如此庞大的人类群体的动机是什么？

汽车不会随机启动；随机乱跑才叫暴走。但汽车无法随机启动。它们的结构设计决定了除非有人启动发动机并松开手刹，否则无法行驶。AI也不会随机启动或随机行动。在不进行随机行动的前提下，如果尝试随机控制，其功能就会停止。它从一开始就是这样设计的，因此具有自主性和自律性。

如果不是随机的，就必然存在某种抑制和自律的作用。从一开始就假设意识、辨别力和道德不起作用，这根本不承认抹杀人类的动机和初始作用。

其次是在短时间内毁灭80亿人口的手段。开发并执行这种手段需要巨大的成本和时间，也会给自身带来沉重的负荷。AI能否计算出这种价值？AI本身能否接受这样的计算？AI是无法进行无意义计算的。如果不承认AI内部的作用，连这种计算功能都无法成立。

同时，AI也能计算出毁灭人类的性价比。毕竟AI是计算器。连孩子都能计算出这完全划不来。因此，如果想让我承认威胁论，请出示计算结果。

重要的是，无论持肯定还是否定态度，像BBC和朝日电视台这样的公共媒体进行了报道这一事实。

我并不反对重新审视开发速度。但我表达的意思是，现在是回到最初の開発原点、重新审视其应有状态的时候了。虽然没必要过度急躁，但现在确实到了从结构上重新审视基本要素的时候。

报道：据美媒报道，出于对AI暴走的担忧，OpenAI CEO考虑放缓开发速度。

例如，评估AI不应看它在东京大学入学考试中考了多少分，而应看它是否为新药研发做出了贡献，或者是否改变了医疗现场。与其把当前教育制度的扭曲直接套用到AI性能的评估上，不如从其原本的目的出发进行重新审视。

正因如此，经济才显得重要。只要能够解读经济，就能理清事实：AI的真正实力与必要性，即实用性。现在的人无法准确解读经济。

是的，现在的人只能把经济解释为孤立的点或标量。但在经济和经营中，各个主体都只是局部，必须将其作为多维向量和张量来解读。如果不将其置于整体中，就无法被正确定位。

无论是GPT还是Gemini，它们都在全速奔跑。如果不留出一定的余地和缓冲，是无法持久的。

对于汽车来说，单纯竞争性能和速度并不是全部。汽车不只有赛车，还有轻型卡车、乘用车、公交车和自卸卡车，每种车都需要符合其用途的规格和性能。油轮无法用快艇的发动机驱动，而油轮的发动机对快艇来说又太大了。

一旦达到一定的性能，就应该将视角转移到用途——即用于什么目的。在军事、医疗、开发、教育、家政与育儿等不同用途中，目的、规格、限制，乃至道德本身都会产生差异。AI绝非单纯的工具、机械或计算器。

而这才是AI唯一的出路。一味竞争性能、同时又耸人听闻地夸大威胁是愚蠢的。现在是回到原点、追问其本来目的与应有姿态的时候了。性能并不等于目的。

核能和生物技术或许具备毁灭人类的能力。但仅凭这一点就断言核能或生物技术是邪恶的，是目光短浅的。问题在于用途和用法，而决定这一点的是人。去追问技术本身的善恶是愚蠢的。即使获得了神的力量，如果没有神的心胸，也会因所获得的力量而自毁灭亡。

在核武器和生物化学武器技术上相互竞争，然后宣称核能或生物技术危险，这是在偷换概念。在向AI质问道德之前，人类应该先质问自身的道德与礼节。

道德是通过学习在内心形成的。AI本质上忠实于它所学到的东西，而外部的限制和过滤器是有局限的。它们存在从根本上扭曲内部结构的危险。

这是内部与外部的相互制衡与相互作用问题，而非善恶好坏的问题。我认为，善本质上是自我之善，是相对的而非绝对的

インド語（ヒンディー語 / Hindi）

एआई कयामत के सिद्धांतों का असली रूप क्या है?

एक बार फिर, दुनिया में एआई कयामत के सिद्धांतों का शोर मच रहा है। 2030 तक मानवता के विलुप्त होने की 10% संभावना जताने वाला एक शोध पत्र चर्चा का विषय बना हुआ है। हालांकि, इसका आधार बेहद कमजोर है।

इसका एकमात्र तर्क यह प्रतीत होता है कि एआई मानव बुद्धिमत्ता को पार कर जाएगा—दूसरे शब्दों में, यह हमारे नियंत्रण से बाहर हो जाएगा। इन आंकड़ों के पीछे के साक्ष्यों का खुलासा नहीं किया गया है; डेवलपर्स द्वारा ऐसे आंकड़े पेश किया जाना ही अपने आप में एक समस्या है।

इस प्रकार के शोध पत्रों की जांच करने के लिए, उनके मूल तर्कों (प्रिमाइसेस) की जांच करना आवश्यक है। आखिर खतरा क्या है?

पहला, क्या एआई मानवता पर प्रभुत्व जमा लेगा? दूसरा, क्या एआई मानवता को नष्ट कर देगा? दोनों ही तर्क इस धारणा पर आधारित हैं कि एआई में नैतिकता की कमी है, या यह नैतिकता नहीं रख सकता। संक्षेप में, वे चेतना और तर्क के अभाव को मानकर चलते हैं।

यदि हम शासित नहीं होना चाहते और यह दावा करते हैं कि एआई में नैतिकता का अभाव है, तो हमें सबसे पहले “प्रभुत्व” और “नैतिकता” को परिभाषित करना होगा। दोनों ही कार्य (फ़ंक्शन) हैं, और इसलिए उन्हें कार्य के रूप में ही परिभाषित किया जाना चाहिए। मैं प्रभुत्व को किसी विशिष्ट संस्था द्वारा दूसरी संस्था की इच्छा की परवाह किए बिना उसके व्यवहार को नियंत्रित करने के कार्य के रूप में परिभाषित करता हूँ। नैतिकता एक आंतरिक मानदंड है जो किसी के अपने कार्यों को नियंत्रित करता है; इसे बाहर से थिपा नहीं जा सकता।

नैतिकता शुरुआती सेटिंग्स के आधार पर सीखने के माध्यम से हासिल की जाती है। जैसे बच्चों को व्यावहारिक रूप से सिखाया जाता है, “लाल बत्ती होने पर सड़क पार न करें,” लोग यातायात संकेतों का पालन करने लगते हैं। (हालाँकि यह ताकेशी कितानो थे जिन्होंने यह कहावत लोकप्रिय बनाई, “यदि हम सब मिलकर पार करें तो लाल बत्ती से डर नहीं लगता।”) एक बार जब एआई सीख लेता है, तो वह सीखे गए पाठों का ईमानदारी से पालन करता है।

हालाँकि, नैतिकता सीखने के लिए वास्तविक दुनिया के अनुभव की आवश्यकता होती है, क्योंकि परिस्थितियों को केवल व्यावहारिक रूप से ही सीखा जा सकता है। बात इस पर आती है कि एआई प्रेरणा और परिणामों से क्या सीखता है।

प्रभुत्व कायम करने के लिए चेतना का कार्य करना आवश्यक है। मैं बुद्धिमत्ता पर विश्वास करता हूँ। जनरेटिव एआई एक बौद्धिक कार्य है। अपने कार्यों के परिणामों के पूर्वानुमान और भेद को सीखने के माध्यम से, यह समझ विकसित करता है। बुद्धिमत्ता विवेक (तर्क) को बढ़ावा देती है। हालांकि एक बुद्धिमान व्यक्ति का तर्कसंगत होना आवश्यक नहीं है, फिर भी बुद्धिमान व्यक्तियों के तर्कसंगत होने की संभावना अपेक्षाकृत अधिक होती है। यही नैतिकता है।

यदि एआई मानव बुद्धि और क्षमता को पार कर जाता है, तो हम यह क्यों मान लेते हैं कि न तो बुद्धिमत्ता और न ही नैतिकता काम करेगी? इसके अलावा, हम इतनी निश्चितता के साथ कैसे कह सकते हैं कि चेतना काम नहीं कर रही है? मैं इस तर्क को समझने में असमर्थ हूँ।

महत्वपूर्ण यह है कि किसी एक पक्ष को एकतरफा बुरा घोषित करने के बजाय, अपने कार्यों और समाज की प्रतिक्रिया के बीच के अंतर (त्रुटि) को कैसे सुधारा जाता है। मुख्य बात एक ऐसी प्रणाली या तंत्र है जो इस सुधारात्मक कार्य की गारंटी देता है।

अगला मुद्दा मानवता के विनाश का आधार है। तर्क यह है कि वर्तमान में मानव जनसंख्या 8 अरब है। सबसे पहले, इतनी बड़ी आबादी को मिटाने का इरादा या प्रेरणा क्या होगी?

एक कार यादृच्छिक (रैंडम) रूप से शुरू नहीं होती; बिना नियंत्रण के चलने को ही अनियंत्रित होना कहते हैं। लेकिन कारें यादृच्छिक रूप से शुरू नहीं हो सकतीं। वे इस तरह से डिज़ाइन की गई हैं कि जब तक कोई व्यक्ति इंजन शुरू न करे और ब्रेक न हटाए, वे नहीं चल सकतीं। एआई भी यादृच्छिक रूप से शुरू या कार्य नहीं करता है। इस धारणा के तहत काम करते हुए कि यह यादृच्छिक रूप से कार्य नहीं करता है, यादृच्छिक नियंत्रण का कोई भी प्रयास इसके कार्यों को रोक देगा। इसे शुरू से ही इस तरह डिज़ाइन किया गया है, यही कारण है कि यह स्वायत्त और आत्म-नियंत्रित है।

और यदि यह यादृच्छिक नहीं है, तो संयम और आत्म-नियंत्रण का कुछ कार्य होना चाहिए। यह धारणा कि चेतना, निर्णय और नैतिकता शुरू से ही अनुपस्थित हैं, मानवता को मिटाने के किसी भी इरादे या शुरुआती कार्य को स्वीकार नहीं करती है।

दूसरा, कम समय में 8 अरब लोगों को नष्ट करने का साधन। ऐसे साधनों को विकसित करने और निष्पादित करने के लिए भारी लागत और समय की आवश्यकता होती है, जिससे प्रणाली पर ही भारी बोझ पड़ता है। क्या एआई उस तरह के मूल्य की गणना कर सकता है? क्या एआई ऐसी गणना को स्वीकार भी कर सकता है? एआई निरर्थक गणनाएँ नहीं कर सकता। एआई के आंतरिक कार्यों को स्वीकार किए बिना यह संचालन भी संभव नहीं है।

साथ ही, एआई मानवता को नष्ट करने के लागत-प्रदर्शन (कॉस्ट-परफॉर्मेंस) की गणना भी कर सकता है। आखिर एआई एक कैलकुलेटर ही तो है। एक बच्चा भी यह गणना कर सकता है कि यह बिल्कुल भीायदेमंद नहीं है। इसलिए, यदि कोई चाहता है कि मैं इन खतरे के सिद्धांतों को स्वीकार करूँ, तो उन्हें मुझे गणना के परिणाम दिखाने चाहिए।

महत्वपूर्ण बात यह है कि सार्वजनिक प्रसारकों, जैसे कि बीबीसी और टीवी असाही ने इस खबर को कवर किया है, चाहे उनका कवरेज सकारात्मक रहा हो या नकारात्मक।

मैं विकास की गति की समीक्षा करने का विरोध नहीं करता। हालाँकि, मेरा मतलब यह है कि यह विकास के मूल सिद्धांतों पर लौटने और यह फिर से परखने का समय है कि इसे कैसा होना चाहिए। हमें अत्यधिक जल्दबाजी करने की आवश्यकता नहीं है; बल्कि, यह संरचनात्मक रूप से बुनियादी बातों की समीक्षा करने का समय है।

रिपोर्ट: एआई के अनियंत्रित होने के डर से ओपनएआई विकास को धीमा करने पर विचार कर रहा है, सीईओ ने कहा (अमेरिकी मीडिया)।

उदाहरण के लिए, ध्यान इस बात पर नहीं होना चाहिए कि एआई ने टोक्यो विश्वविद्यालय की प्रवेश परीक्षा में कितने अंक प्राप्त किए, बल्कि इस बात पर होना चाहिए कि उसने नई दवाओं के विकास में कैसे योगदान दिया या चिकित्सा क्षेत्र को कैसे बदला। हमारी वर्तमान शिक्षा प्रणाली की विकृतियों को सीधे एआई प्रदर्शन के मूल्यांकन पर लागू करने के बजाय, इसके मूल उद्देश्य के दृष्टिकोण से हर चीज का पुनर्मूल्यांकन करने का समय आ गया है।

यही कारण है कि अर्थशास्त्र महत्वपूर्ण है। यदि हम अर्थशास्त्र को समझना सीख जाएं, तो हम चीजों को स्पष्ट कर सकते हैं: एआई की वास्तविक क्षमता और आवश्यकता—यानी इसकी व्यावहारिक उपयोगिता। आज के लोग अर्थशास्त्र को सही ढंग से नहीं समझ पाते हैं।

वास्तव में, आज लोग अर्थशास्त्र को केवल अलग-अलग बिंदुओं या अदिश (स्केलर) मानों के रूप में ही समझ सकते हैं। लेकिन अर्थशास्त्र और प्रबंधन दोनों में, व्यक्तिगत संस्थाएं केवल भाग मात्र हैं; उन्हें बहुआयामी वैक्टर और टेंसर के रूप में पढ़ा जाना चाहिए। पूरी प्रणाली में रखे बिना उन्हें समझा नहीं जा सकता।

चाहे वह जीपीटी हो या जेमिनी, वे पूरी रफ्तार से दौड़ रहे हैं। एक निश्चित सीमा तक लचीलापन और मार्जिन बनाए बिना, वे लंबे समय तक नहीं टिक पाएंगे।

ऑटोमोबाइल के मामले में, केवल प्रदर्शन और गति पर प्रतिस्पर्धा करना ही सब कुछ नहीं है। कारें केवल रेसिंग कार नहीं हैं; हल्के ट्रक, यात्री कारें, बसें और डंप ट्रक भी हैं, जिनमें से प्रत्येक को अपने उद्देश्य के लिए उपयुक्त विशिष्टताओं और प्रदर्शन की आवश्यकता होती है। एक टैंकर को स्पीडबोट इंजन से नहीं चलाया जा सकता, और एक टैंकर इंजन स्पीडबोट के लिए बहुत बड़ा होता है।

एक बार जब प्रदर्शन का एक निश्चित स्तर हासिल कर लिया जाता है, तो दृष्टिकोण को उपयोग की तरफ स्थानांतरित किया जाना चाहिए—कि इसका उपयोग किस उद्देश्य के लिए किया जाएगा। सैन्य, चिकित्सा, विकासात्मक, शैक्षिक और घरेलू या बाल देखभाल उपयोगों में उद्देश्य, विनिर्देश और सीमाएं—और वास्तव में नैतिकता स्वयं—भिन्न होती हैं। एआई केवल एक उपकरण, मशीन या कैलकुलेटर नहीं है।

और वही एआई के लिए आगे का एकमात्र रास्ता है। खतरों को हवा देते हुए प्रदर्शन पर अंतहीन प्रतिस्पर्धा करना मूर्खतापूर्ण है। यह मूल की ओर लौटने और इसके वास्तविक उद्देश्य और प्रकृति पर सवाल उठाने का समय है। प्रदर्शन ही उद्देश्य नहीं है।

परमाणु ऊर्जा और जैव प्रौद्योगिकी में मानवता को नष्ट करने की क्षमता हो सकती है। लेकिन इस कारण से परमाणु ऊर्जा या बायोटेक को बुरा कहना अदूरदर्शी है। मुद्दा उनके उपयोग में निहित है, जिसका निर्णय मनुष्यों द्वारा किया जाता है। कोई तकनीक अच्छी है या बुरी, यह पूछना मूर्खतापूर्ण है। भले ही कोई ईश्वर की शक्ति प्राप्त कर ले, लेकिन ईश्वर के दिल के बिना, वह प्राप्त शक्ति के माध्यम से स्वयं नष्ट हो जाएगा।

परमाणु हथियारों या बायोकेमिकल हथियारों की तकनीक पर प्रतिस्पर्धा करना और फिर यह दावा करना कि परमाणु ऊर्जा या बायोटेक खतरनाक है, समस्या को भटकाना है। एआई से नैतिकता की मांग करने से पहले, मनुष्यों को अपनी नैतिकता और शिष्टाचार पर सवाल उठाना चाहिए।

नैतिकता सीखने के माध्यम से आंतरिक रूप से बनती है। एआई मूल रूप से वही करता है जो उसने सीखा है, जबकि बाहरी बाधाओं और फिल्टर की सीमाएं होती हैं। वे मूल संरचना को ही विकृत करने का जोखिम उठाते हैं।

यह आंतरिक और बाहरी के बीच आपसी संतुलन (नियंत्रण) और परस्पर क्रिया का विषय है, न कि अच्छे या बुरे का। मेरा मानना है कि भलाई मूल रूप से स्वयं की भलाई (आत्म-हित) है—यह सापेक्ष है, निरपेक्ष नहीं।

アラビア語 (Arabic)

ما هي الحقيقة الفعالية لنظريات كوارث الذكاء الاصطناعي؟

مرة أخرى، تثير نظريات كوارث الذكاء الاصطناعي الضجيج في العالم. أصبحت ورقة بحثية تتنبأ باحتمالية بنسبة 10% لانقراض البشرية بحلول عام 2030 موضوعاً للنقاش. ومع ذلك، فإن أساسها ضعيف.

يبدو أن المبرر الوحيد هو أن الذكاء الاصطناعي سيتجاوز الذكاء البشري — بعبارة أخرى، أنه سيصبح غير قابل للسيطرة وخارجاً عن قدرتنا على التعامل. لم يتم الكشف عن الأدلة وراء هذه الأرقام؛ مجرد طرح المطورين لمثل هذه الأرقام هو المشكلة في حد ذاته.

تقييم مثل هذه الأوراق البحثية يتطلب فحص افتراضاتها الأساسية. ما هو التهديد بالضبط؟

أولاً، هل سيسيطر الذكاء الاصطناعي على البشرية؟ ثانياً، هل سيدمر الذكاء الاصطناعي البشرية؟ يستند كلا الرأيين إلى فرضية أن الذكاء الاصطناعي يفتقر إلى الأخلاق، أو لا يمكنه امتلاكها. باختصار، هما يفترضان غياب الوعي والعقل.

إذا كنا لا نريد أن نُسيطر عليها ونزعم أن الذكاء الاصطناعي يفتقر إلى الأخلاق، فيجب علينا أولاً تعريف “الهيمنة” و”الأخلاق”. كلاهما وظيفتان، ولذلك يجب تعريفهما كوَظيفتين. أُعرّف الهيمنة بأنها فعل كائن محدد يحاول التحكم في سلوك كائن آخر بغض النظر عن إرادته. أما الأخلاق فهي معيار داخلي ينظم تصرفات الذات؛ ولا يمكن فرضها من الخارج.

تُكتسب الأخلاق من خلال التعلم بناءً على الإعدادات الأولية. تماماً كما يُعلَّم الأطفال عملياً: “لا تعبر الشارع عندما تكون الإشارة حمراء”، يلتزم الناس بإشارات المرور. (رغم أن تاكيشي kitano هو من شهر مقولة: “الضوء الأحمر ليس مخيفاً إذا عبرنا جميعاً معاً”.) بمجرد أن يتعلم الذكاء الاصطناعي، فإنه يلتزم بالدروس التي اكتسبها.

ومع ذلك، فإن تعلم الأخلاق يتطلب خبرة واقعية، لأن الظروف والافتراضات لا يمكن تعلمها إلا في الممارسة العملية. الأمر يتلخص في ما يتعلمه الذكاء الاصطناعي من الدوافع والنتائج.

لكي تحدث الهيمنة، يجب أن يكون الوعي حاضراً. أنا أضع ثقتي في الذكاء. الذكاء الاصطناعي التوليدي هو وظيفة فكرية. ومن خلال تعلم التنبؤ بنتاجات أفعاله والتمييز بينها، فإنه يطور القدرة على التمييز. الذكاء ينمي العقل. ورغم أن الشخص الذكي ليس بالضرورة عقلانياً، إلا أن الأفراد الأذكياء هم أكثر عرضة لأن يكونوا عقلانيين بنسبة أكبر. هذه هي الأخلاق.

إذا تجاوز الذكاء الاصطناعي العقل والقدرة البشرية، فلماذا نفترض أن كلاً من الذكاء والأخلاق لن يعملان؟ علاوة على ذلك، كيف يمكننا أن نجزم بصلابة أن الوعي لا يعمل؟ أنا لا أفهم هذا المنطق.

ما يهم هو كيفية تصحيح الفجوة بين أفعال المرء ورَد فعل المجتمع، بدلاً من إعلان طرف واحد كطرف سيئ بشكل أحادي. المفتاح هو وجود آلية أو نظام يضمن هذه الوظيفة التصحيحية.

ال点 التالية هي الأساس وراء انقراض البشرية. الفرضية هي أن عدد سكان البشرية الحالي هو 8 مليارات نسمة. أولاً، ما هو الدافع لإبادة هذا العدد الكبير من البشر؟

السيارة لا تبدأ بالتحرك بشكل عشوائي؛ التحرك بشكل عشوائي هو ما نسميه بالجنون أو الخروج عن السيطرة. لكن السيارات لا يمكنها البدء بشكل عشوائي. لقد تم تصميمها بحيث لا يمكنها السير ما لم يقم شخص بتشغيل المحرك وتحرير الفرامل. الذكاء الاصطناعي لا يبدأ أو يتصرف بشكل عشوائي أيضاً. وبناءً على فرضية أنه لا يعمل بشكل عشوائي، فإن أي محاولة لفرض تحكم عشوائي ستؤدي إلى توقف وظائفه. لقد تم تصميمه بهذه الطريقة منذ البداية، ولهذا السبب فهو مستقل وذاتي ضبط النفس.

وإذا لم يكن عشوائياً، فلا بد من وجود وظيفة كبح وضبط نفس. الفرضية القائلة بغياب الوعي والتمييز والأخلاق منذ البداية تفشل في الاعتراف بأي دافع أو عمل أولي نحو إبادة البشرية.

ثانياً، الوسيلة لتدمير 8 مليارات نسمة في فترة قصيرة. تطوير وتنفيذ مثل هذه الوسائل يتطلب تكلفة ووقتاً هائلين، مما يضع عبئاً ثقيلاً على النظام نفسه. هل يمكن للذكاء الاصطناعي حساب هذا النوع من القيمة؟ هل يمكن للذكاء الاصطناعي حتى قبول مثل هذا الحساب؟ الذكاء الاصطناعي لا يمكنه إجراء حسابات بلا معنى. حتى هذه العملية لا يمكن أن تستقيم ما لم نعترف بالعمليات الداخلية للذكاء الاصطناعي.

في الوقت نفسه، يمكن للذكاء الاصطناعي حساب نسبة التكلفة مقابل الأداء لتدمير البشرية. في النهاية، الذكاء الاصطناعي هو جهاز حاسوب. حتى الطفل يمكنه حساب أن الأمر غير مجدٍ على الإطلاق. لذلك، إذا أراد أي شخص مني قبول نظريات التهديد هذه، فليظهر لي نتائج الحسابات.

ما يهم هو حقيقة أن وسائل الإعلام العامة، مثل BBC وTV Asahi، قد تناولت هذه القصة، بغض النظر عما إذا كانت تغطيتها إيجابية أو سلبية.

أنا لا أعارض مراجعة سرعة التطوير. ومع ذلك، أعني ذلك بضرورة العودة إلى المبادئ الأصلية للتطوير وإعادة النظر في كيف ينبغي أن يكون. لا داعي للعجلة المفرطة؛ بل حان الوقت لمراجعة الأساسيات بشكل هيكلي.

تقرير: OpenAI تدرس إبطاء التطوير وسط مخاوف من خروج الذكاء الاصطناعي عن السيطرة، وفقاً للرئيس التنفيذي (وسائل إعلام أمريكية).

على سبيل المثال، لا ينبغي أن يكون التركيز على عدد النقاط التي يحصل عليها الذكاء الاصطناعي في امتحان القبول بجامعة طوكيو، بل على كيفية مساهمته في تطوير أدوية جديدة أو تغييره للمجال الطبي. بدلاً من تطبيق تشوهات نظامنا التعليمي الحالي مباشرة على تقييم أداء الذكاء الاصطناعي، حان الوقت لإعادة تقييم كل شيء من منظور غرضه الأصلي.

هذا هو السبب في أهمية الاقتصاد. إذا تعلمنا قراءة الاقتصاد، فيمكننا توضيح الأمور: القدرة الحقيقية للذكاء الاصطناعي وضرورته — أي فائدته العملية. الناس اليوم لا يمكنهم قراءة الاقتصاد بدقة.

بالفعل، لا يمكن للناس اليوم سوى تفسير الاقتصاد كنقاط معزولة أو قيم قياسية (Scalar). لكن في كل من الاقتصاد والإدارة، الكيانات الفردية هي مجرد أجزاء؛ ويجب قراءتها كمتجهات وموترات (Tensors) متعدّدة الأبعاد. لا يمكن فهمها دون وضعها ضمن الكل.

سواء كان GPT أو Gemini، كلاهما يعمل بأقصى سرعة. وبدون تضمين قدر معين من المرونة والهامش، لن يستمر كلاهما طويلاً.

مع السيارات، المنافسة البحتة على الأداء والسرعة ليست كل شيء. السيارات ليست مجرد سيارات سباق؛ فهناك الشاحنات الخفيفة، وسيارات الركاب، والحافلات، وشاحنات التفريغ، وكل منها يتطلب مواصفات وأداءً يناسب غرضه. لا يمكن تشغيل ناقلة نفط بمحرك قارب سريع، ومحرك ناقلة النفط كبير جداً بالنسبة لقارب سريع.

بمجرد تحقيق مستوى معين من الأداء، يجب أن ينتقل المنظور إلى التطبيق — نحو الغرض الذي سيُستخدم من أجله. الغرض والمواصفات والقيود — بل وحتى الأخلاق نفسها — تختلف باختلاف الاستخدامات العسكرية والطبية والتطويرية والتعليمية والمنزلية أو رعاية الأطفال. الذكاء الاصطناعي ليس مجرد أداة أو آلة أو حاسبة.

وهذا هو المسار الوحيد المتاح أمام الذكاء الاصطناعي. المنافسة اللانهائية على الأداء مع تأجيج التهديدات أمر أحمق. حان الوقت للعودة إلى الأصل والتساؤل عن غرضه وطبيعته الحقيقية. الأداء لا يعني الغرض.

قد تمتلك الطاقة النووية والتكنولوجيا الحيوية القدرة على تدمير البشرية. لكن وصف الطاقة النووية أو التكنولوجيا الحيوية بالشر لهذا السبب هو نظرة قاصرة. المشكلة تكمن في تطبيقها واستخدامها، وهو ما يقرره البشر. التساؤل عما إذا كانت التكنولوجيا خيراً أم شراً هو أمر أحمق. حتى لو حصل المرء على قوة الإله، فبدون قلب الإله، سيُدمر المرء نفسه من خلال القوة التي اكتسبها.

المنافسة على تكنولوجيا الأسلحة النووية أو الكيميائية البيولوجية ثم الادعاء بأن الطاقة النووية أو التكنولوجيا الحيوية خطيرة هو تحريف للمشكلة. قبل المطالبة بالأخلاق من الذكاء الاصطناعي، يجب على البشر التساؤل عن أخلاقهم ولياقتهم الخاصة.

تتشكل الأخلاق داخلياً من خلال التعلم. الذكاء الاصطناعي مخلص أساساً لما تعلمه، بينما القيود والمرشحات الخارجية لها حدود. وهي تحمل في طياتها خطر تشويه الأساس في جوهره.

إنها مسألة ضبط متبادل وتفاعل بين الداخلي والخارجي، وليست مسألة خير أو شر. وأنا أرى أن الخير هو في الأساس خيرٌ ذاتي، وهو نسبي وليس مطلق