Хабрахабр:
Привет, в прошлой статье я рассказал про алгоритм обратного распространения ошибки и привел реализацию, не зависящую от функции ошибки и от функции активации нейрона. Было показано несколько простых примеров подмены этих самых параметров: минимизация квадрата Евклидова расстояния и логарифмического правдоподобия для сигмоидной функции и гиперболического тангенса. Данный пост будет логическим продолжение прошлого, в котором я рассмотрю немного нестандартный пример, а именно функцию активации Softmax для минимизации перекрестной энтропии. Эта модель актуальна при задаче классификации, когда необходимо получить на выходе нейросети вероятности принадлежности входного образа одному из не пересекающихся классов. Очевидно, что суммарный выход сети по всем нейронам выходного слоя должен равняться единице (так же как и для выходных образов обучающей выборки). Однако не достаточно просто нормализировать выходы, а нужно заставить сеть моделировать вероятностное распределение, и обучать ее именно этому. Кстати, сейчас на coursera.org идёт курс по нейросетям, именно он помог углубиться в понимание софтмакса, иначе я продолжал бы использовать сторонние реализации. Читать дальше →
Файлообменный сервис Mega, который должен прийти на смену Megaupload, будет практически неуязвим, обещает Ким Дотком. Все файлы, загружаемые на серверы Mega, будут шифроваться в браузере. Ключ останется у пользователся, загрузившего файл, и ни хостер, ни провайдер, ни сам Дотком не будут знать, что именно хранится на его серверах. Кроме того, сами серверы будут располагаться как минимум в двух разных странах, так что конфискация оборудования спецслужбами одной страны не приведёт к пропаже данных. Читать дальше →
В соответствии с пунктами 136A.61 ? 136A.71 законодательства штата Миннесота, сайт Coursera, предоставляющий бесплатные онлайн-курсы от преподавателей лучших университетов США, не может легально предоставлять свои услуги жителям штата. В соответствии с законом, чтобы предоставлять образовательные услуги на территории штата, нужно получить официальное разрешение властей. Об этом администрацию сайта уведомило Управление высшего образования Миннесоты. Теперь в пользовательском соглашении Coursera появился пункт о том, что если вас угораздило жить в Миннесоте, то вам нельзя пользоваться услугами Coursera, или, если очень хочется, вы обязаны выполнять большую часть заданий курса, находясь за пределами штата. Читать дальше →
17 октября 2012 ЕКА и НАСА проверили протокол связи, который позволит астронавтам управлять роботами с космических станций, орбитальных комплексов вокруг планет или астероидов. На следующей неделе намечено тестирование с астронавтом МКС. На прошлой неделе из центра пользователей космической станции при университете г. Боулдер, США послали команду к лэптопу NASA на Международной космической станции, чтобы запустить скрипт, который контролировал Mocup Rover в операционном центре ESOC Европейского Космического Агентства (ЕКА) в Дармштадте, Германия. Роверу давались приказы двигаться вперед и делать снимки, которые он выполнял, как планировалось. Mocup увеличить изображение 1119Кб. Источник: ESA Про MocupВ рамках проекта Meteron (Multi-purpose End-To-End Robotic Operations Network) ? многоцелевая End-to-End сеть оперирования роботами ? космонавты будут тестировать управление роботом Mocup из оперативного центра ЕКА, Дармштадт, Германия. Mocup является аббревиатурой от Meteron Operations and Communications Prototype. Mocup является одним из тестовых роверов в Meteron ЕКА ? инициативе для будущих миссий к Луне, Марсу и другим небесным телам. Читать дальше →
Введение Итак, у меня есть собака. Краткое резюме: Кличка: Белка Окрас: Белый с рыжим Порода: Западносибирская лайка с кем-то еще Происхождение: Дворянское Стоимость: 0р 0к Собака была приобретена в собственном подъезде за еду и кров. Была выброшена какими-то негодяями без еды и воды в картонной коробке без фирменных логотипов породы и адреса завода-изготовителя. Ну да не важно, мы и с менее качественным товаром имели дело, а тут такая рыжая морда, и совсем бесплатно. Берем! Пришлось принимать товар как есть, NO-NAME. Скорее всего, сделано в Китае. Гарантийные претензии тоже непонятно, кому предъявлять, а они были ? в собаке водились глисты длиннее ее самой. К счастью, все это в прошлом. Зверюга подросла. Доказала свою преданность и послушность, за что получила возможность гулять без веревки на шее. Поскольку это не просто собака, а настоящая собака-гуляка, которая привыкла к полноценной четырёхразовой прогулке без поводка (она у меня совсем не агрессивная, но очень любознательная и послушная), ей потребовался своеобразный маячок, чтобы наблюдать ее похождения даже в темноте, и не нервничать, куда ж она подевалась. А подеваться ей есть куда ? ее любимое занятие ? приносить палки хозяину, и требовать, чтобы он ее кинул. Ну а найти-уж ее дело. Но это ж не простая собака, а собака, у которой папка ? программист и немножко электронщик. Впрочем, даже простой ошейник с DealExtreme приковывает взгляды окружающих, особенно радуются дети. Разве это не стоит того? Но начнем с начала. Под катом много текста! Читать дальше →
3 августа 2012 года вымышленный профессор Marcie Rathke из несуществующего Университета Южной Северной Дакоты отправил статью в научный журнал Advances in Pure Mathematics, один из многих журналов издательства Scientific Research Publishing. Статья под названием ?Независимые, отрицательные, канонические стрелы Тьюринга в уравнениях и задачах прикладной формальной PDE? (pdf) сопровождалась интригующей аннотацией: ?Пусть ? = A. Возможно ли расширить область изоморфизма? Мы показываем, что D? является стохастически ортогональным и тривиально-аффинным соответствием. В [10], основным результатом стала конструкция множества Кардано, функции Эрдёша, Вейля, что может пролить важный свет на гипотезу Конвея-Д?Аламбера?. И аннотация, и весь текст, и список литературы в этой ?научной статье? были сгенерированы программой Mathgen, которую написал математик Натан Элдридж (Nate Eldredge). Он с гордостью заявил, что статью в итоге приняли для публикации. Читать дальше →
Последнее время я все больше вижу различных топиков на хабре, новостей в интернете о том, как то или иное правительство пытается обуздать интернет. Первыми в этом деле наверное стали китайцы, которые установили на всю страну файрвол в 2003 году. Тогда многие правительства не отнеслись к этому со всем вниманием, но в сегодняшнем дне все больше и больше правительств понимают, что интернет несет угрозу их власти и существованию? Под катом некоторые размышления писаные вилами на воде, для глухих из страны слепцов о том, что происходит сегодня и к чему мы вероятно придем завтра. Хочу лишь заметить, что в топике затрагиваются вопросы политики и интернета, а так же политики в отношении интернета. Весь пост, отражает только мою сугубо индивидуальную точку зрения и не более. И скорее всего это просто крик души, после прочтения новостей об очередном законопроекте, призванном оградить нас? от чего? Последнее предисловие от автораВся эта статья, это просто попытка поделится чувствами, которые переполняют меня. Потому что в последнее время я все больше и чаще вижу различные новости на тему различных запретов в интернете. И мне становится грустно, что единственное место, где можно было выражаться так, как ты считаешь правильным и быть услышанным, перестает быть таковым, мутируя во что то иное... Давайте рассмотрим ситуацию под лупой
На сайте моей компании я выложил свой перевод интервью Андре Вейера (Andre Weyher), в прошлом ? сотрудника отдела качества поиска в Google, которое он дал австралийскому интернет-маркетологу Джеймсу Норкею (James Norquay). Так как весь текст довольно длинный, здесь я перечислю основные (на мой взгляд, новые) моменты. Если кому-то интересен полный текст перевода ? адрес в обсуждении ниже, из скромности. Интервью свежее, 16 октября с.г. Основная мысль интервью ? ?если вы хотите, чтобы ваш сайт был повыше в результатах поиска, делайте его так, как будто никакого SEO нет. Этого от вас ждет и пользователь, и Google?. Несколько интересных ответов Андрэ, которые мне (и комментаторам оригинального интервью на сайте Джеймса) показались не столь банальными (простите, если вы это уже знаете, вдруг кто-то еще не знает): Читать дальше →

Отписаться от этой рассылки