Google представляет PaLM 2: прорыв в языковой модели, но с возможными недостатками

Однако, модель имеет свои недостатки, включая выделение токсичных ответов на запросы, связанные с расовыми признаками "Черный" и "Белый", а также с иудаизмом и исламом. В тестах на испанском языке PaLM 2 тоже оказалась менее точной, чем ее предшественник.

Это связано с тем, что модели, обученные на данных с предвзятостью, могут усиливать существующие предубеждения. Исследователи отмечают, что PaLM 2 требует постоянного присмотра и улучшения, чтобы устранить эти проблемы и предотвратить токсичный языковой вред, который она иногда производит. Несмотря на это, Google продолжает работать над улучшением и разработкой PaLM 2 в целом.