Исследование показало, что системы ИИ не имеют подготовки в области сочувствия и этики, предлагая новый метод приведения ИИ в соответствие с общественными ценностями. Study reveals AI systems lack training in empathy and ethics, proposing a new method to align AI with societal values.

Исследователи из Purdue University обнаружили, что системы ИИ обучаются главным образом информационным и коммунальным ценностям, часто игнорируя общественные ценности, благосостояние и гражданские ценности. Researchers from Purdue University found that AI systems are trained primarily on information and utility values, often overlooking prosocial, well-being, and civic values. В ходе исследования были изучены три набора данных, используемых крупными компаниями ИИ, и было выявлено отсутствие подготовки по вопросам сочувствия, справедливости и прав человека. The study examined three datasets used by major AI companies and found a lack of training on empathy, justice, and human rights. Команда представила метод под названием "учебное подкрепление" из человеческой обратной связи, чтобы помочь системам ИИ соответствовать общественным ценностям, используя курируемые наборы данных для обеспечения этического поведения и лучшего обслуживания ценностей сообщества. The team introduced a method called reinforcement learning from human feedback to help AI systems align with societal values, using curated datasets to ensure ethical behavior and better serve community values.