Изследователи от Кралския колеж в Лондон призовават за по-строги регулации след възрастови и расови несъответствия в автономните системи с изкуствен интелект /ИИ/. Причината е, че по-рано този месец Cruise AV /Cruise, дъщерно дружество на General Motors, участва в катастрофа с превозно средство за спешно реагиране. В изявлението си Cruise каза, че неговият AV е „положително идентифицирал“ аварийното превозно средство, но границите на конкретното кръстовище правят „визуалната идентификация по-предизвикателна“, тъй като е „значително затворено от сгради“.
Въпреки това, редица автомобилни производители продължават да настояват за разработване на автономни превозни средства (AV), което означава, че проблемите около безопасността на пешеходците и водачите все повече ще излизат на преден план.
В скорошно проучване изследователи от Кралския колеж в Лондон разкриха „основни“ възрастови и расови отклонения в системите за откриване на автономни превозни средства. Проучването тепърва ще бъде рецензирано, но резултатите от него са тревожни. Изследователи от катедрата по информатика в King’s College London са оценили осем системи за откриване на пешеходци, захранвани с изкуствен интелект (AI), използвани в изследванията на автономни превозни средства.
Изследователите от Кралския колеж в Лондон са маркирали 8311 изображения с 16 070 етикета за пол, 20 115 етикета за възраст и 3513 етикета за цвета на кожата. Те са установили чрез тестване на тези над 8000 изображения, че точността на откриване за възрастни е почти 20% по-висока, отколкото за деца, и малко над 7,5% по-точна за светлокожи пешеходци в сравнение с по-тъмнокожи пешеходци. Причината за това несъответствие е, че основните колекции от изображения на пешеходци, които се използват за обучение на AI системите, използвани при откриване на пешеходци – системата, която казва на безпилотна кола дали се приближава до пешеходец, представят повече хора със светла кожа, отколкото с тъмна кожа.
Резултатът от този неравномерен източник на данни е „липса на справедливост“ в AI системата, която се използва за обучение, според изследователите. Един важен фактор, който трябва да се подчертае, е, че системите, които са тествани, не принадлежат на компании за автомобили без водачи, тъй като това се счита за „собствена информация“ и следователно не е достъпна за обществеността.
Информацията идва от компаниите за автомобили без шофьори, които използват съществуващи модели с отворен код, така че резултатите от изследването със сигурност важат и за системите на производителите, които се предлагат и на индивидуални купувачи.
Изследователите също установиха, че опасноста за пешеходците с тъмна кожа се увеличава значително при сценарии с нисък контраст и ниска яркост, създавайки повече проблеми при шофиране през нощта. Тяхната надежда е, че производителите ще бъдат по-прозрачни, когато става въпрос за това как се обучават техните търговски AI модели за откриване на пешеходци, както и как се представят, преди да излязат на улицата.
Източник: Aauto-press
