Предвзятость AI (bias) — систематические ошибки в работе моделей искусственного интеллекта, связанные с перекосами в обучающих данных. Такая предвзятость может вызывать дискриминацию по признакам пола, расы или возраста. Bias — отдельная от ошибки галлюцинации проблема, связанная именно с искажением данных, а не с их выдумыванием.
Пример
AI-рекрутер, обученный на исторических данных, может автоматически отсеивать резюме женщин из-за bias в исходных примерах.