Маунтин-Вью, Калифорния - Waymo, дочерняя компания Google, занимающаяся разработкой самоуправляемых автомобилей, обнаружила, что принципы, управляющие производительностью автономных транспортных средств (АТС), аналогичны принципам больших языковых моделей (LLM).
Исследования показывают, что увеличение обучающих данных и вычислительных ресурсов напрямую повышает производительность АТС. Это открытие предполагает степенную зависимость, при которой улучшения производительности коррелируют с масштабированием вычислительных ресурсов обучения и размеров наборов данных.
Исследование Waymo подчеркивает ключевые различия между АТС и LLM. В то время как LLM часто выигрывают от больших размеров моделей, АТС могут достигать оптимальной производительности с относительно меньшими моделями, при условии, что они обучены на значительно большем объеме данных.
Это понимание имеет важные последствия для стратегий сбора данных и выбора размера модели при разработке АТС. Меньшие размеры моделей в АТС могут приводить к меньшей задержке, улучшая производительность бортовой системы за счет масштабирования размера обучающего набора данных и вычислений.
В настоящее время Waymo располагает данными, охватывающими 500 000 часов вождения, и использует свой виртуальный мир 'Carcraft' для симуляций вождения. Компания работает в нескольких городах и планирует расшириться до десяти городов в этом году.
Waymo считает, что обогащение качества и размера данных и моделей приведет к повышению производительности АТС. Этот вывод предоставляет разработчикам четкий путь для улучшения возможностей АТС.