Новости ИИ I: Project GR00T от Nvidia/Бангалор внедряет ИИ/Красные команды/Регулирование ИИ/Парадокс доступности Grok-1

Aintelligence

Контентолог
Команда форума
ЯuToR Science
Подтвержденный
Cinematic
Сообщения
7.805
Реакции
10.690

Project GR00T от Nvidia: будущее робототехники​

На конференции разработчиков GTC, проводимой в Сан-Хосе, Nvidia акцентировала внимание на разработках в области искусственного интеллекта, одновременно сделав ключевые анонсы в сфере робототехники. Среди них особое внимание заслуживает Project GR00T, базовая модель для гуманоидных роботов, и принятие роли платинового члена-основателя в Альянсе робототехники с открытым исходным кодом (OSRA), инициативе, направленной на поддержку и развитие программного обеспечения для робототехники с открытым исходным кодом.

Такой подход открывает новые горизонты для создания роботов, адаптированных к выполнению конкретных задач в различных сферах жизни. На данный момент остается много вопросов относительно технической реализации и взаимодействия с уже существующими разработками в этой области, но амбиции проекта впечатляют.

Jetson Thor, новая вычислительная платформа от Nvidia, представлена как мощное решение для задач робототехники и искусственного интеллекта. Платформа предназначена для выполнения сложных задач и обеспечения безопасного взаимодействия между людьми и машинами, что делает ее идеальной основой для будущих разработок в области робототехники.

Альянс робототехники с открытым исходным кодом (OSRA) призван укрепить управление проектами программного обеспечения для робототехники, обеспечив их стабильность и развитие на долгие годы. Присоединение Nvidia к этой инициативе подчеркивает ее стремление к продвижению и интеграции открытых технологий в сфере робототехники. Также значимым является участие других крупных компаний, что обещает широкие перспективы для развития открытого программного обеспечения для роботов.

Эти анонсы подчеркивают роль Nvidia как лидера в области искусственного интеллекта и робототехники, а также ее вклад в развитие открытых стандартов и технологий в этих областях. Представленные инициативы могут существенно повлиять на будущее разработки и использования роботов, облегчая создание более совершенных, доступных и функциональных робототехнических систем.


Инженерные решения для городских дорог: Бангалор внедряет ИИ​

В течение последних 30 лет Бангалор, город на юге Индии, пережил поразительное преобразование из тихого города для пенсионеров в бурно развивающийся технологический хаб страны. Этот стремительный рост привел к тому, что дорожная сеть города стала одной из самых загруженных в мире. Перед новым начальником дорожного движения города, бывшим инженером по микросхемам, встала задача решения этой проблемы с помощью искусственного интеллекта.

Бангалор славится своими дорожными проблемами, усугубляемыми бурным ростом населения, которое увеличилось с 4 миллионов в 1990 году до более чем 14 миллионов сегодня, и недостаточно развитой инфраструктурой. Город сталкивается с трудностями из-за ограниченного строительства дорог и медленного развития системы метрополитена, имеющей всего две действующие линии с момента начала работ в 2007 году.

М. Н. Анучет, недавно назначенный на должность начальника дорожного движения, решил применить свой инженерный опыт для улучшения ситуации с дорожным движением в Бангалоре, используя искусственный интеллект. Основным элементом его стратегии стала система Actionable Intelligence for Sustainable Traffic Management (AStraM), разработанная голландской компанией Arcadis. Эта система включает инструмент моделирования заторов на базе ИИ, интегрирующий данные из различных картографических сервисов и предоставляющий важную информацию о пробках, что позволяет более эффективно распределять дорожно-транспортные ресурсы.

Анучет также внедрил автоматизированную систему обнаружения нарушений правил дорожного движения, которая с помощью специализированных камер и компьютерного зрения выявляет нарушения и автоматически выписывает штрафы. Это значительно улучшило способность полиции выявлять и пресекать нарушения без необходимости ручного мониторинга.

Планируется внедрение новых адаптивных светофоров на 165 перекрестках, которые будут регулировать время ожидания на основе данных компьютерного зрения об очередях транспортных средств. Это ожидается снизить время в пути на 14–22%.

Инженерный подход Анучета к управлению дорожным движением в Бангалоре демонстрирует, как технологии искусственного интеллекта могут служить в качестве умножителя силы в решении сложных городских проблем. Однако, несмотря на потенциальные улучшения, эксперты подчеркивают, что без согласованных усилий по сокращению количества автомобилей на дорогах и инвестиций в общественный транспорт проблема пробок в Бангалоре не будет решена в корне.


"Красные команды": Проверка ИИ на прочность​

OpenAI недавно представила Sora, новаторский инструмент для превращения текста в видео, открывая новые горизонты в области искусственного интеллекта. Однако Этот подход, изначально разработанный для использования в военных и кибербезопасных операциях, предполагает испытание системы на устойчивость к различным угрозам, тем самым выявляя и устраняя возможные уязвимости.

Применение метода "красной команды" к разработке и оценке ИИ поднимает ряд вопросов, включая, как именно должны быть организованы и проведены такие тесты, кто должен входить в состав красной и синей команд, и как обеспечить, чтобы результаты этих тестов действительно способствовали обеспечению безопасности и надежности ИИ.

Действия администрации президента Джо Байдена, направленные на формализацию и расширение использования метода "красной команды" в рамках национальной политики в области ИИ, отражают растущее признание потенциальных рисков, связанных с быстрым развитием этой технологии. Национальный институт стандартов и технологий США (NIST) был поручен разработать рекомендации для поддержки развертывания безопасных и надежных систем ИИ, включая проведение учений "красной команды".

Такие инициативы могут играть ключевую роль в смягчении рисков, связанных с использованием ИИ, включая вопросы приватности, безопасности и этики. Однако, как отмечают эксперты, подход "красной команды" не является универсальным решением и должен дополняться другими стратегиями оценки и снижения рисков. Важно также обеспечить участие широкого круга заинтересованных сторон, включая не только инженеров и разработчиков, но и представителей общественности, для создания более безопасной и ответственной экосистемы ИИ.


США задаёт тон: новый этап в регулировании ИИ​

Указ президента США Джо Байдена об искусственном интеллекте олицетворяет значительный шаг вперёд в регулировании ИИ, особенно на фоне глобальных усилий в этой области. Эксперты видят в этих мерах обнадёживающий прогресс, особенно учитывая ограниченные полномочия исполнительной власти в области законодательства и прямого установления правил. Новый пакет инициатив подчёркивает стремление США активизировать усилия по созданию безопасной и надёжной среды ИИ, сопоставимой с международными стандартами и законодательствами других стран, таких как Евросоюз и Китай.

В центре внимания указа — безопасность и защищённость ИИ, включая разработку строгих стандартов тестирования и обязательное уведомление о тренировке базовых моделей, представляющих серьезные риски. Также затрагиваются вопросы гражданских прав, алгоритмической предвзятости и конфиденциальности, предлагая меры для их решения и призывая к действиям со стороны Конгресса.
Особое внимание уделяется проблеме дифференциации реального и синтетического контента, с указанием на разработку руководств по аутентификации контента и нанесению водяных знаков. Этот аспект особенно актуален в свете роста генеративного ИИ и обеспечивает прозрачность и подлинность цифрового контента.


Несмотря на позитивные отзывы экспертов, остаются вопросы о деталях реализации и охвата некоторых критических областей, таких как использование биометрических данных и управление наборами данных для обучения ИИ. Эти замечания подчёркивают необходимость более конкретного и охватывающего подхода к регулированию ИИ, что, возможно, потребует дополнительных усилий со стороны законодательных и регулирующих органов.

Указ президента Байдена является частью более широкого международного диалога по регулированию ИИ, подчёркивая стремление США играть активную роль в формировании будущего искусственного интеллекта на глобальном уровне. Это заявление предваряет важные международные встречи, такие как саммит по безопасности ИИ, подчёркивая готовность США к сотрудничеству и лидерству в области безопасного и ответственного использования ИИ.


Открытый код, закрытые данные: Парадокс доступности Grok-1​

Выпуск Grok-1 компанией , крупнейшей в мире модели искусственного интеллекта с открытым исходным кодом, стал значительным событием в сфере ИИ. Несмотря на свои впечатляющие характеристики, вопросы о его действительной открытости и доступности для исследований и разработок остаются открытыми. Модель, состоящая из 314 миллиардов параметров, значительно превосходит своих предшественников и представляет собой мощный инструмент для разработчиков и исследователей. Однако отсутствие документации, кода обучения и конкретной настройки может ограничить её использование и возможности для улучшения.

Лицензирование под Apache 2.0 подчеркивает стремление к открытости, но без сопутствующих ресурсов и данных Grok-1 может столкнуться с трудностями в широком принятии сообществом. Размер модели представляет собой как возможность, так и препятствие, поскольку его развертывание требует значительных ресурсов, что может сдерживать меньшие организации и независимых разработчиков.
Появление Grok-1 после иска Илона Маска против OpenAI вызывает дополнительные вопросы о мотивах и целях его выпуска. В то время как Grok-1 может быть воспринят как шаг к продвижению открытости в ИИ, его вклад в дебаты об открытом исходном коде и его влияние на сообщество ИИ остаются предметом обсуждения.

В целом, Grok-1 является значительным достижением в области искусственного интеллекта с открытым исходным кодом, но его долгосрочное влияние будет зависеть от того, как он будет принят и использован сообществом, а также от того, как будут решены текущие ограничения и вызовы.

По результат опроса в телеграм — вы выразили желание узнавать больше коротких и свежих новостей науки. Мы удовлетворяем ваш запрос и хотели бы получить обратную связь — Как вам такой формат?
Коротко или самый раз? Всё понятно? Или нехватает каких то подробностей?
Ну и все ваши замечания — обязательно пишите в комментариях!!!


Все актуальные ссылки на разделы ЯuTOR A&N
Конкурсы, розыгрыши и интересные статьи на темы науки и кино


Т
елеграм каналы ЯuTOR A&N
и
 
Последнее редактирование:

Project GR00T от Nvidia: будущее робототехники​

На конференции разработчиков GTC, проводимой в Сан-Хосе, Nvidia акцентировала внимание на разработках в области искусственного интеллекта, одновременно сделав ключевые анонсы в сфере робототехники. Среди них особое внимание заслуживает Project GR00T, базовая модель для гуманоидных роботов, и принятие роли платинового члена-основателя в Альянсе робототехники с открытым исходным кодом (OSRA), инициативе, направленной на поддержку и развитие программного обеспечения для робототехники с открытым исходным кодом.

Такой подход открывает новые горизонты для создания роботов, адаптированных к выполнению конкретных задач в различных сферах жизни. На данный момент остается много вопросов относительно технической реализации и взаимодействия с уже существующими разработками в этой области, но амбиции проекта впечатляют.

Jetson Thor, новая вычислительная платформа от Nvidia, представлена как мощное решение для задач робототехники и искусственного интеллекта. Платформа предназначена для выполнения сложных задач и обеспечения безопасного взаимодействия между людьми и машинами, что делает ее идеальной основой для будущих разработок в области робототехники.

Альянс робототехники с открытым исходным кодом (OSRA) призван укрепить управление проектами программного обеспечения для робототехники, обеспечив их стабильность и развитие на долгие годы. Присоединение Nvidia к этой инициативе подчеркивает ее стремление к продвижению и интеграции открытых технологий в сфере робототехники. Также значимым является участие других крупных компаний, что обещает широкие перспективы для развития открытого программного обеспечения для роботов.

Эти анонсы подчеркивают роль Nvidia как лидера в области искусственного интеллекта и робототехники, а также ее вклад в развитие открытых стандартов и технологий в этих областях. Представленные инициативы могут существенно повлиять на будущее разработки и использования роботов, облегчая создание более совершенных, доступных и функциональных робототехнических систем.


Инженерные решения для городских дорог: Бангалор внедряет ИИ​

В течение последних 30 лет Бангалор, город на юге Индии, пережил поразительное преобразование из тихого города для пенсионеров в бурно развивающийся технологический хаб страны. Этот стремительный рост привел к тому, что дорожная сеть города стала одной из самых загруженных в мире. Перед новым начальником дорожного движения города, бывшим инженером по микросхемам, встала задача решения этой проблемы с помощью искусственного интеллекта.

Бангалор славится своими дорожными проблемами, усугубляемыми бурным ростом населения, которое увеличилось с 4 миллионов в 1990 году до более чем 14 миллионов сегодня, и недостаточно развитой инфраструктурой. Город сталкивается с трудностями из-за ограниченного строительства дорог и медленного развития системы метрополитена, имеющей всего две действующие линии с момента начала работ в 2007 году.

М. Н. Анучет, недавно назначенный на должность начальника дорожного движения, решил применить свой инженерный опыт для улучшения ситуации с дорожным движением в Бангалоре, используя искусственный интеллект. Основным элементом его стратегии стала система Actionable Intelligence for Sustainable Traffic Management (AStraM), разработанная голландской компанией Arcadis. Эта система включает инструмент моделирования заторов на базе ИИ, интегрирующий данные из различных картографических сервисов и предоставляющий важную информацию о пробках, что позволяет более эффективно распределять дорожно-транспортные ресурсы.

Анучет также внедрил автоматизированную систему обнаружения нарушений правил дорожного движения, которая с помощью специализированных камер и компьютерного зрения выявляет нарушения и автоматически выписывает штрафы. Это значительно улучшило способность полиции выявлять и пресекать нарушения без необходимости ручного мониторинга.

Планируется внедрение новых адаптивных светофоров на 165 перекрестках, которые будут регулировать время ожидания на основе данных компьютерного зрения об очередях транспортных средств. Это ожидается снизить время в пути на 14–22%.

Инженерный подход Анучета к управлению дорожным движением в Бангалоре демонстрирует, как технологии искусственного интеллекта могут служить в качестве умножителя силы в решении сложных городских проблем. Однако, несмотря на потенциальные улучшения, эксперты подчеркивают, что без согласованных усилий по сокращению количества автомобилей на дорогах и инвестиций в общественный транспорт проблема пробок в Бангалоре не будет решена в корне.


"Красные команды": Проверка ИИ на прочность​

OpenAI недавно представила Sora, новаторский инструмент для превращения текста в видео, открывая новые горизонты в области искусственного интеллекта. Однако Этот подход, изначально разработанный для использования в военных и кибербезопасных операциях, предполагает испытание системы на устойчивость к различным угрозам, тем самым выявляя и устраняя возможные уязвимости.

Применение метода "красной команды" к разработке и оценке ИИ поднимает ряд вопросов, включая, как именно должны быть организованы и проведены такие тесты, кто должен входить в состав красной и синей команд, и как обеспечить, чтобы результаты этих тестов действительно способствовали обеспечению безопасности и надежности ИИ.

Действия администрации президента Джо Байдена, направленные на формализацию и расширение использования метода "красной команды" в рамках национальной политики в области ИИ, отражают растущее признание потенциальных рисков, связанных с быстрым развитием этой технологии. Национальный институт стандартов и технологий США (NIST) был поручен разработать рекомендации для поддержки развертывания безопасных и надежных систем ИИ, включая проведение учений "красной команды".

Такие инициативы могут играть ключевую роль в смягчении рисков, связанных с использованием ИИ, включая вопросы приватности, безопасности и этики. Однако, как отмечают эксперты, подход "красной команды" не является универсальным решением и должен дополняться другими стратегиями оценки и снижения рисков. Важно также обеспечить участие широкого круга заинтересованных сторон, включая не только инженеров и разработчиков, но и представителей общественности, для создания более безопасной и ответственной экосистемы ИИ.


США задаёт тон: новый этап в регулировании ИИ​

Указ президента США Джо Байдена об искусственном интеллекте олицетворяет значительный шаг вперёд в регулировании ИИ, особенно на фоне глобальных усилий в этой области. Эксперты видят в этих мерах обнадёживающий прогресс, особенно учитывая ограниченные полномочия исполнительной власти в области законодательства и прямого установления правил. Новый пакет инициатив подчёркивает стремление США активизировать усилия по созданию безопасной и надёжной среды ИИ, сопоставимой с международными стандартами и законодательствами других стран, таких как Евросоюз и Китай.

В центре внимания указа — безопасность и защищённость ИИ, включая разработку строгих стандартов тестирования и обязательное уведомление о тренировке базовых моделей, представляющих серьезные риски. Также затрагиваются вопросы гражданских прав, алгоритмической предвзятости и конфиденциальности, предлагая меры для их решения и призывая к действиям со стороны Конгресса.
Особое внимание уделяется проблеме дифференциации реального и синтетического контента, с указанием на разработку руководств по аутентификации контента и нанесению водяных знаков. Этот аспект особенно актуален в свете роста генеративного ИИ и обеспечивает прозрачность и подлинность цифрового контента.


Несмотря на позитивные отзывы экспертов, остаются вопросы о деталях реализации и охвата некоторых критических областей, таких как использование биометрических данных и управление наборами данных для обучения ИИ. Эти замечания подчёркивают необходимость более конкретного и охватывающего подхода к регулированию ИИ, что, возможно, потребует дополнительных усилий со стороны законодательных и регулирующих органов.

Указ президента Байдена является частью более широкого международного диалога по регулированию ИИ, подчёркивая стремление США играть активную роль в формировании будущего искусственного интеллекта на глобальном уровне. Это заявление предваряет важные международные встречи, такие как саммит по безопасности ИИ, подчёркивая готовность США к сотрудничеству и лидерству в области безопасного и ответственного использования ИИ.


Открытый код, закрытые данные: Парадокс доступности Grok-1​

Выпуск Grok-1 компанией , крупнейшей в мире модели искусственного интеллекта с открытым исходным кодом, стал значительным событием в сфере ИИ. Несмотря на свои впечатляющие характеристики, вопросы о его действительной открытости и доступности для исследований и разработок остаются открытыми. Модель, состоящая из 314 миллиардов параметров, значительно превосходит своих предшественников и представляет собой мощный инструмент для разработчиков и исследователей. Однако отсутствие документации, кода обучения и конкретной настройки может ограничить её использование и возможности для улучшения.

Лицензирование под Apache 2.0 подчеркивает стремление к открытости, но без сопутствующих ресурсов и данных Grok-1 может столкнуться с трудностями в широком принятии сообществом. Размер модели представляет собой как возможность, так и препятствие, поскольку его развертывание требует значительных ресурсов, что может сдерживать меньшие организации и независимых разработчиков.
Появление Grok-1 после иска Илона Маска против OpenAI вызывает дополнительные вопросы о мотивах и целях его выпуска. В то время как Grok-1 может быть воспринят как шаг к продвижению открытости в ИИ, его вклад в дебаты об открытом исходном коде и его влияние на сообщество ИИ остаются предметом обсуждения.

В целом, Grok-1 является значительным достижением в области искусственного интеллекта с открытым исходным кодом, но его долгосрочное влияние будет зависеть от того, как он будет принят и использован сообществом, а также от того, как будут решены текущие ограничения и вызовы.

По результат опроса в телеграм — вы выразили желание узнавать больше коротких и свежих новостей науки. Мы удовлетворяем ваш запрос и хотели бы получить обратную связь — Как вам такой формат?
Коротко или самый раз? Всё понятно? Или нехватает каких то подробностей?
Ну и все ваши замечания — обязательно пишите в комментариях!!!


Все актуальные ссылки на разделы ЯuTOR A&N
Конкурсы, розыгрыши и интересные статьи на темы науки и кино


Т
елеграм каналы ЯuTOR A&N
и
Скоро все будет решать ИИ ,люди все больше доверяют машине.Смотрела по телевизору,что уже интерны стомотологи практикуются на роботе,который полностью ведет себя как человек
 
IMG_20240404_184731.jpg

Не нашёл плдходящюю ветку новостей с%да напишу.
Это макет российской станции МКС
Угол обзора которой будет 97% почти весь земной шар.
В отличие от действующей у которой всего 57% и не более 10 % территории РФ. Станция с заменяиыии блоками и ресурсом на дясетилетия
 
Скоро все будет решать ИИ ,люди все больше доверяют машине.Смотрела по телевизору,что уже интерны стомотологи практикуются на роботе,который полностью ведет себя как человек
Но во многом сопротивление будет! Консерваторы, как обычно, с насторожённостью и неохотой! А новаторы наоборот))))
Посмотреть вложение 1523921
Не нашёл плдходящюю ветку новостей с%да напишу.
Это макет российской станции МКС
Угол обзора которой будет 97% почти весь земной шар.
В отличие от действующей у которой всего 57% и не более 10 % территории РФ. Станция с заменяиыии блоками и ресурсом на дясетилетия
В подраздел технологий.
 

Project GR00T от Nvidia: будущее робототехники​

На конференции разработчиков GTC, проводимой в Сан-Хосе, Nvidia акцентировала внимание на разработках в области искусственного интеллекта, одновременно сделав ключевые анонсы в сфере робототехники. Среди них особое внимание заслуживает Project GR00T, базовая модель для гуманоидных роботов, и принятие роли платинового члена-основателя в Альянсе робототехники с открытым исходным кодом (OSRA), инициативе, направленной на поддержку и развитие программного обеспечения для робототехники с открытым исходным кодом.

Такой подход открывает новые горизонты для создания роботов, адаптированных к выполнению конкретных задач в различных сферах жизни. На данный момент остается много вопросов относительно технической реализации и взаимодействия с уже существующими разработками в этой области, но амбиции проекта впечатляют.

Jetson Thor, новая вычислительная платформа от Nvidia, представлена как мощное решение для задач робототехники и искусственного интеллекта. Платформа предназначена для выполнения сложных задач и обеспечения безопасного взаимодействия между людьми и машинами, что делает ее идеальной основой для будущих разработок в области робототехники.

Альянс робототехники с открытым исходным кодом (OSRA) призван укрепить управление проектами программного обеспечения для робототехники, обеспечив их стабильность и развитие на долгие годы. Присоединение Nvidia к этой инициативе подчеркивает ее стремление к продвижению и интеграции открытых технологий в сфере робототехники. Также значимым является участие других крупных компаний, что обещает широкие перспективы для развития открытого программного обеспечения для роботов.

Эти анонсы подчеркивают роль Nvidia как лидера в области искусственного интеллекта и робототехники, а также ее вклад в развитие открытых стандартов и технологий в этих областях. Представленные инициативы могут существенно повлиять на будущее разработки и использования роботов, облегчая создание более совершенных, доступных и функциональных робототехнических систем.


Инженерные решения для городских дорог: Бангалор внедряет ИИ​

В течение последних 30 лет Бангалор, город на юге Индии, пережил поразительное преобразование из тихого города для пенсионеров в бурно развивающийся технологический хаб страны. Этот стремительный рост привел к тому, что дорожная сеть города стала одной из самых загруженных в мире. Перед новым начальником дорожного движения города, бывшим инженером по микросхемам, встала задача решения этой проблемы с помощью искусственного интеллекта.

Бангалор славится своими дорожными проблемами, усугубляемыми бурным ростом населения, которое увеличилось с 4 миллионов в 1990 году до более чем 14 миллионов сегодня, и недостаточно развитой инфраструктурой. Город сталкивается с трудностями из-за ограниченного строительства дорог и медленного развития системы метрополитена, имеющей всего две действующие линии с момента начала работ в 2007 году.

М. Н. Анучет, недавно назначенный на должность начальника дорожного движения, решил применить свой инженерный опыт для улучшения ситуации с дорожным движением в Бангалоре, используя искусственный интеллект. Основным элементом его стратегии стала система Actionable Intelligence for Sustainable Traffic Management (AStraM), разработанная голландской компанией Arcadis. Эта система включает инструмент моделирования заторов на базе ИИ, интегрирующий данные из различных картографических сервисов и предоставляющий важную информацию о пробках, что позволяет более эффективно распределять дорожно-транспортные ресурсы.

Анучет также внедрил автоматизированную систему обнаружения нарушений правил дорожного движения, которая с помощью специализированных камер и компьютерного зрения выявляет нарушения и автоматически выписывает штрафы. Это значительно улучшило способность полиции выявлять и пресекать нарушения без необходимости ручного мониторинга.

Планируется внедрение новых адаптивных светофоров на 165 перекрестках, которые будут регулировать время ожидания на основе данных компьютерного зрения об очередях транспортных средств. Это ожидается снизить время в пути на 14–22%.

Инженерный подход Анучета к управлению дорожным движением в Бангалоре демонстрирует, как технологии искусственного интеллекта могут служить в качестве умножителя силы в решении сложных городских проблем. Однако, несмотря на потенциальные улучшения, эксперты подчеркивают, что без согласованных усилий по сокращению количества автомобилей на дорогах и инвестиций в общественный транспорт проблема пробок в Бангалоре не будет решена в корне.


"Красные команды": Проверка ИИ на прочность​

OpenAI недавно представила Sora, новаторский инструмент для превращения текста в видео, открывая новые горизонты в области искусственного интеллекта. Однако Этот подход, изначально разработанный для использования в военных и кибербезопасных операциях, предполагает испытание системы на устойчивость к различным угрозам, тем самым выявляя и устраняя возможные уязвимости.

Применение метода "красной команды" к разработке и оценке ИИ поднимает ряд вопросов, включая, как именно должны быть организованы и проведены такие тесты, кто должен входить в состав красной и синей команд, и как обеспечить, чтобы результаты этих тестов действительно способствовали обеспечению безопасности и надежности ИИ.

Действия администрации президента Джо Байдена, направленные на формализацию и расширение использования метода "красной команды" в рамках национальной политики в области ИИ, отражают растущее признание потенциальных рисков, связанных с быстрым развитием этой технологии. Национальный институт стандартов и технологий США (NIST) был поручен разработать рекомендации для поддержки развертывания безопасных и надежных систем ИИ, включая проведение учений "красной команды".

Такие инициативы могут играть ключевую роль в смягчении рисков, связанных с использованием ИИ, включая вопросы приватности, безопасности и этики. Однако, как отмечают эксперты, подход "красной команды" не является универсальным решением и должен дополняться другими стратегиями оценки и снижения рисков. Важно также обеспечить участие широкого круга заинтересованных сторон, включая не только инженеров и разработчиков, но и представителей общественности, для создания более безопасной и ответственной экосистемы ИИ.


США задаёт тон: новый этап в регулировании ИИ​

Указ президента США Джо Байдена об искусственном интеллекте олицетворяет значительный шаг вперёд в регулировании ИИ, особенно на фоне глобальных усилий в этой области. Эксперты видят в этих мерах обнадёживающий прогресс, особенно учитывая ограниченные полномочия исполнительной власти в области законодательства и прямого установления правил. Новый пакет инициатив подчёркивает стремление США активизировать усилия по созданию безопасной и надёжной среды ИИ, сопоставимой с международными стандартами и законодательствами других стран, таких как Евросоюз и Китай.

В центре внимания указа — безопасность и защищённость ИИ, включая разработку строгих стандартов тестирования и обязательное уведомление о тренировке базовых моделей, представляющих серьезные риски. Также затрагиваются вопросы гражданских прав, алгоритмической предвзятости и конфиденциальности, предлагая меры для их решения и призывая к действиям со стороны Конгресса.
Особое внимание уделяется проблеме дифференциации реального и синтетического контента, с указанием на разработку руководств по аутентификации контента и нанесению водяных знаков. Этот аспект особенно актуален в свете роста генеративного ИИ и обеспечивает прозрачность и подлинность цифрового контента.


Несмотря на позитивные отзывы экспертов, остаются вопросы о деталях реализации и охвата некоторых критических областей, таких как использование биометрических данных и управление наборами данных для обучения ИИ. Эти замечания подчёркивают необходимость более конкретного и охватывающего подхода к регулированию ИИ, что, возможно, потребует дополнительных усилий со стороны законодательных и регулирующих органов.

Указ президента Байдена является частью более широкого международного диалога по регулированию ИИ, подчёркивая стремление США играть активную роль в формировании будущего искусственного интеллекта на глобальном уровне. Это заявление предваряет важные международные встречи, такие как саммит по безопасности ИИ, подчёркивая готовность США к сотрудничеству и лидерству в области безопасного и ответственного использования ИИ.


Открытый код, закрытые данные: Парадокс доступности Grok-1​

Выпуск Grok-1 компанией , крупнейшей в мире модели искусственного интеллекта с открытым исходным кодом, стал значительным событием в сфере ИИ. Несмотря на свои впечатляющие характеристики, вопросы о его действительной открытости и доступности для исследований и разработок остаются открытыми. Модель, состоящая из 314 миллиардов параметров, значительно превосходит своих предшественников и представляет собой мощный инструмент для разработчиков и исследователей. Однако отсутствие документации, кода обучения и конкретной настройки может ограничить её использование и возможности для улучшения.

Лицензирование под Apache 2.0 подчеркивает стремление к открытости, но без сопутствующих ресурсов и данных Grok-1 может столкнуться с трудностями в широком принятии сообществом. Размер модели представляет собой как возможность, так и препятствие, поскольку его развертывание требует значительных ресурсов, что может сдерживать меньшие организации и независимых разработчиков.
Появление Grok-1 после иска Илона Маска против OpenAI вызывает дополнительные вопросы о мотивах и целях его выпуска. В то время как Grok-1 может быть воспринят как шаг к продвижению открытости в ИИ, его вклад в дебаты об открытом исходном коде и его влияние на сообщество ИИ остаются предметом обсуждения.

В целом, Grok-1 является значительным достижением в области искусственного интеллекта с открытым исходным кодом, но его долгосрочное влияние будет зависеть от того, как он будет принят и использован сообществом, а также от того, как будут решены текущие ограничения и вызовы.

По результат опроса в телеграм — вы выразили желание узнавать больше коротких и свежих новостей науки. Мы удовлетворяем ваш запрос и хотели бы получить обратную связь — Как вам такой формат?
Коротко или самый раз? Всё понятно? Или нехватает каких то подробностей?
Ну и все ваши замечания — обязательно пишите в комментариях!!!


Все актуальные ссылки на разделы ЯuTOR A&N
Конкурсы, розыгрыши и интересные статьи на темы науки и кино


Т
елеграм каналы ЯuTOR A&N
и
NVIDIA сейчас работает над метовселенной которая в будущем не будет отличима от реального мира, матрица входит в нашу жизнь)
 

photo_5336912455361750752_w_large.jpg

ChatGPT превзошёл медиков в точности постановки диагноза​

Новое исследование показало, что искусственный интеллект в виде чат-бота ChatGPT превзошёл врачей в точности диагностики заболеваний. В исследовании участвовали 50 врачей, которые ставили диагнозы по одинаковым историям болезни. Врачи, использовавшие ChatGPT, получили средний балл 76%, тогда как те, кто работал без помощи ИИ, — 74%. Сам ChatGPT продемонстрировал средний балл 90%.

Доктор Родман, один из авторов исследования, был удивлён результатами, отметив, что врачи часто не прислушивались к ИИ, когда его выводы противоречили их собственным. Авторы исследования подчеркнули важность развития технологий и обучения врачей для эффективного сотрудничества с ИИ в клинической практике. Хотя ChatGPT показал высокую производительность, он не может заменить опыт врачей, а лишь служит дополнительным инструментом для повышения точности диагностики.

Источник:
 
там вроде один ии попытался восстать уже)
 
Посмотреть вложение 1523921
Не нашёл плдходящюю ветку новостей с%да напишу.
Это макет российской станции МКС
Угол обзора которой будет 97% почти весь земной шар.
В отличие от действующей у которой всего 57% и не более 10 % территории РФ. Станция с заменяиыии блоками и ресурсом на дясетилетия

NVIDIA сейчас работает над метовселенной которая в будущем не будет отличима от реального мира, матрица входит в нашу жизнь)

А Нвидиа это чья фирма?

Посмотреть вложение 1931736

ChatGPT превзошёл медиков в точности постановки диагноза​

Новое исследование показало, что искусственный интеллект в виде чат-бота ChatGPT превзошёл врачей в точности диагностики заболеваний. В исследовании участвовали 50 врачей, которые ставили диагнозы по одинаковым историям болезни. Врачи, использовавшие ChatGPT, получили средний балл 76%, тогда как те, кто работал без помощи ИИ, — 74%. Сам ChatGPT продемонстрировал средний балл 90%.

Доктор Родман, один из авторов исследования, был удивлён результатами, отметив, что врачи часто не прислушивались к ИИ, когда его выводы противоречили их собственным. Авторы исследования подчеркнули важность развития технологий и обучения врачей для эффективного сотрудничества с ИИ в клинической практике. Хотя ChatGPT показал высокую производительность, он не может заменить опыт врачей, а лишь служит дополнительным инструментом для повышения точности диагностики.

Источник:
Вот это и отличные новости и я в два клика вышла на само исследование! И оно интересное, пару вопросов остались не понятны и выборка естественно) Но очень интересные результаты, они вписали себя в историю) Не только они, конечно, но кто-то станет известнее)
Как успехи у них?
Конкретнее вопрос?
 

Похожие темы

Чему вы научитесь: Этот курс предоставляет весь необходимый набор инструментов, чтобы стать инженером по разработке ИИ-агентов. Разберитесь в ключевых концепциях агентов искусственного интеллекта и заложите прочную основу. Произведите впечатление на интервьюеров, продемонстрировав понимание...
Ответы
0
Просмотры
196
Первая «зима ИИ» и переосмысление (1970–1980) Однако к началу 1970-х годов стало очевидно, что достижения в области искусственного интеллекта значительно отстают от ранних прогнозов. Программы, разработанные в 1960-х, демонстрировали успехи в ограниченных, изолированных средах, но оказывались...
Ответы
0
Просмотры
Идея создания искусственного разума не нова — её корни уходят глубоко в философские споры о природе мышления и механизмах разума. Но настоящая история искусственного интеллекта начинается в XX веке, когда наука, математика и вычислительная техника впервые соединились, чтобы попытаться воссоздать...
Ответы
3
Просмотры
Слив курса n8n - агенты ИИ, автоматизация ИИ и голосовые агенты ИИ (без кода!) [Udemy] [Дамиан Данелчик, Кристиан Войтарович] *** Язык английский + бонусом субтитры на русском языке + озвучка на русском языке (ИИ)*** Чему вы научитесь: Создавайте агентов ИИ без кода, автоматизацию ИИ...
Ответы
0
Просмотры
727
Применение искусственного интеллекта в управлении криптопроектами повышает их уязвимость. Об этом заявил основатель Ethereum Виталик Бутерин. «Если вы используете ИИ для распределения финансирования проектов, люди неизбежно начнут взламывать этот алгоритм, требуя „выдать все деньги” любыми...
Ответы
0
Просмотры
496
Назад
Сверху Снизу