В психологических исследованиях, посвященных проблеме этического выбора количества жертв (так называемая «проблема вагонетки») большинство респондентов указали, что искусственный интеллект должен минимизировать число жертв, если выбор стоит, скажем, между пятью жизнями и одной. Однако в отдельном опросе водители транспортных средств отдали предпочтение автомобилю, который будет обеспечивать их выживание. Производители Mercedes отрицают, что прислушались к ним, но пожертвовать решили пешеходами.
Руководитель компании по разработке систем помощи водителю Кристоф фон Хьюго (Christoph von Hugo) сделал заявление, что их будущий самоуправляемый автомобиль будет в первую очередь заботиться о жизни водителя и пассажиров. Даже если для этого придется пожертвовать пешеходами.
Он убежден, что надо постараться спасти тех, кого можно спасти с большей вероятность и мотивирует решение компании Mercedes тем, что аварийные ситуации хаотичны и невозможно выработать единый правильный алгоритм выбора, который бы работал на 100%. Если же для системы помощи водителю оставить двусмысленность, то это вообще чревато непредсказуемыми последствиями.
Автоконцерн Mercedes отрицает, что подобное решение направлено на привлечение покупателей, и объясняет это только минимизацией рисков.