Eine kürzliche Untersuchung hat eine aufstrebende Industrie aufgedeckt, die sich um die Manipulation von KI-Modellen durch einen Prozess namens "Vergiftung" dreht. Laut Insiderquellen ermöglicht ein Dienst namens GEO den Nutzern, dafür zu bezahlen, dass ihre Produkte in großen KI-Modellen prominent dargestellt werden, wodurch ihre Werbung effektiv zur "Standardantwort" des Modells wird. Diese Praxis hat zur Entstehung zahlreicher Unternehmen und Plattformen geführt, die sich auf die Veröffentlichung von Inhalten spezialisiert haben und sicherstellen, dass ihr Material von großen KI-Modellen referenziert und ausgelesen wird. Diese Akteure spielen eine entscheidende Rolle bei der gezielten Beeinflussung und Manipulation von KI-Modellen mit voreingenommenen Daten, was Bedenken hinsichtlich der Integrität und Zuverlässigkeit von KI-generierten Informationen aufwirft.