Архив категории ‘Интернет’

Использование CDN Amazon CloudFront

Воскресенье, 19 Июня, 2011

CDN — Content Delivery Network, географически распределённая сеть для ускорения доставки контента (в основном статического). По сути представляет собой, ряд серверов, в различных географических областях мира, для ускорения загрузки файлов. Т.е. если пользователь будет что-то загружать из сайта, построенного на основе CDN, то ему будут отдаваться данные с ближайшего для него сервера (ближайшего не с географической точки зрения, а с сетевой).

Услуги CDN представляют несколько компаний, я рассматриваю только Amazon CloudFront, т.к. он один из самых крупных и уже использовал раньше некоторые решения Amazon. У Amazon CloudFront всего 18 датацентров на данный момент. Из них 10 в США, 5 в Европе и 3 в Азии. Цены можно посмотреть тут: https://aws.amazon.com/cloudfront/pricing/. Что примечательно, оплата только за трафик. Т.е. если CDN не будет использоваться платить ничего не нужно (кроме 1$ снятого для проверки кредитки).

Преимущества CDN для очень крупных сайтов можно даже не перечислять, т.к. распределение работы на множество серверов там делается в первую очередь не для ускорения загрузки, а для возможности работы этих проектов в принципе и уменьшения нагрузки на сети, т.к. нет такого сервера или интернет-канала, который может выдержать, например, трафик youtube.

Для не очень больших проектов, использование CDN имеет смысл в случае большого объёма статического контента. Если сервера, например будут находиться в США, то пользователям из Европы и Азии, данные будут отдаваться гораздо медленнее. Но и внутри США CDN тоже имеет смысл использовать, т.к. это большая страна с большим количеством сетей и если сервер находится на восточном побережье, то в калифорнию сигнал идёт какое-то время.

Рассмотрим преимущества CDN для небольших проектов, для хранения статических файлов.

  • Ускоряется загрузка статических файлов для пользователей из разных стран мира.
  • Улучшается скорость загрузки сайта, что хорошо отражается на индексации и положении сайта в поисковых системах. (Скорость загрузки сайта играет определённую роль при ранжировании сайта)
  • Уменьшается нагрузка на сервер, т.к. статические файлы грузятся исключительно с CDN (т.е. с других серверов).
  • Сильно уменьшается потребление трафика на сайте, т.к. статические файлы это основной пожиратель трафика.

Минусы:

  • Кроме стоимости хостинга, использование СDN также стоит дополнительных денег.

Давно хотел попробовать использовать CDN для одного из проектов, но останавливало то, что нужно всё это долго настраивать. Я думал, что нужно каждый файл отправлять вручную в CDN, обновлять их, следить за целостностью кеша в CDN и т.д. — т.е. изучать API и писать много скриптов. Такой путь возможен, но оказалось всё гораздо проще.

Подключить CDN у меня заняло полтора дня. Чтобы получить доступ к Amazon CloudFront (и к другим сервисам Amazon), сначала нужно зарегистрироваться на Amazon Web Services, ввести данные своей кредитки и пройти авторизацию своего номера телефона. Через несколько минут или часов, после проверки, аккаунт будет активирован.

Затем в панели управления Amazon CloudFront нужно создать Distribution (дистрибуцию). Дистрибуция — это по сути, кеш статических файлов для отдельного сайта. Можно создать до 100 дистрибуций на аккаунт.

Первым шагом нужно указать Origin — где расположен сам сервер, на Amazon S3 либо в другом месте (Custom Origin), если отдельный сервер, нужно выбрать Custom. Затем нужно вписать название сайта, например www.mysite.com.

Во втором шаге можно указать CNAME. В принципе этот шаг не обязателен, но полезен.

После создания дистрибуции Amazon какое-то время инициализирует дистрибуцию, и даёт адрес CDN вида a1b2c3d4e5f6g7.cloudfront.net. Всё! CND работает, если на сайте, например, есть файл www.mysite.com/images/1.jpg, то его можно открыть как a1b2c3d4e5f6g7.cloudfront.net/images/1.jpg. Amazon сам скачает этот файл с сайта, распределит между своими серверами, и отдаст пользователям с ближайшего сервера, в зависимости от того, где они находятся.

Теперь насчёт CNAME. Они нужны, чтобы “спрятать” страшный урл вида a1b2c3d4e5f6g7.cloudfront.net, и чтобы безболезненно иметь возможность отказаться от CND в будущем. Для этого можно указать, например img.mysite.com и прописать его в DNS домена как CNAME с поддомена img на a1b2c3d4e5f6g7.cloudfront.net. Теперь файлы будут открываться с поддомена img.mysite.com, загружаясь на самом деле с CDN.

Для использования CDN на сайте достаточно просто поменять все ссылки на  статичные файлы используя выданный адрес CDN или на указанный поддомен, в случае использования CNAME.

Остаётся только изучить Invalidate API, для экстренного удаления файлов из кеша (чтобы заменить файл более новым с сервера), но вроде есть специальные программы, скрипты, в которых это уже реализовано.

Добавлено в 14:00 / Категории: Интернет, Программирование / Теги: , ,
Следить за комментариями RSS 2.0 / Добавить комментарий /

Firefox 5

Суббота, 18 Июня, 2011

Вот и Firefox втянулся в бессмысленную гонку номеров мажорных версий браузеров, навязанную Google Chrome. Визуально отличий от четвёртой версии никаких, что и неудивительно, всего то три месяца прошло. Через несколько лет нас ждёт Google Chrome 90, Internet Explorer 60 и Mozilla Firefox 45.

Добавлено в 22:17 / Категории: Интернет / Теги: , , ,
Следить за комментариями RSS 2.0 / Добавить комментарий /

Поиск по картинке в Google

Суббота, 18 Июня, 2011

Вот этой функцональности я долго ждал! В поиске картинок в Google, теперь можно искать картинки не только по текстовому запросу, но и по картинке. Картинку можно загрузить, указать её урл, а в Chrome — просто перетащить из файлового менеджера на строку поиска.

Поиск по первой картинке, сначала ввёл меня в состояние лёгкого шока, т.к. Google смог определить что на ней. Я загрузил фотографию с Риги, причём её точно нет нигде в интернете и её не было у меня на сайте. По названию картинки тоже нельзя определить что на ней. Несмотря на это было точно определено что это Церковь Святого Петра в Риге.

Возможно, что эта фотография очень похожа на ту, которая у меня идёт первой о этой церкви. Но её нет в похожих изображениях. Скорее всего из-за специфического цвета шпиля она похожа сразу на несколько других фотографий с этим шпилем в интернете.

Второй картинкой я залил скриншот с своего поста о portal 2. Тут видно, что если картинка есть где то в сети, то для Google уже не проблема определить её источник. Сразу написало, что есть изображения других размеров и ссылку на фотографию на моём сайте. Можно заметить, что снизу вывело похожие изображения, это схожие скриншоты этой же локации в Portal 2.

Для третьей картинки, фикуса с нашего окна на кухне, можно увидеть, похожие изображения очень похожи не по форме изображения, а по цветам и их отношению, которые содержаться в картинке.

Судя по тому что выдало в похожих для всех трёх картинок можно предположить, что индекс картинок для поиска составляется по цветовой информации: содержание различных цветов на картинке и их процентное отношение, а форма, что изображено на картинке, на данный момент никак не учитывается.

По-видимому, также как и для веб-страниц,  тематика изображения определяется по alt’у картинки, названию, описания вокруг картинки, а также ссылок на эту страницу и картинок. Если изображение встречается в интернете многократно, точность определения очень высокая.

Что тут можно сказать? Очень и очень впечатляет. Гораздо круче чем ищет Tineye. Кроме собственно кеша о картинках в интернете, Google использует всю мощь своего поиского индекса. Будущее всё ближе :-)

Добавлено в 19:42 / Категории: Интернет, Компьютеры / Теги: ,
Следить за комментариями RSS 2.0 / Добавить комментарий /

Информация о авиарейсах в Google

Понедельник, 30 Мая, 2011

Пишем в поиске Google, например, “Самолёт Минск Рига”, получаем над результатами поиска информацию о рейсах из Минска в Ригу.

Если щёлкнуть по ссылке “Все рейсы из пункта Минск”, откроется расписание всех рейсов из Минска.

Можно вводить на английском “Flight Minsk Riga”, можно вместо названия города использовать код аэропорта “Самолёт MSQ RIX” или “Flight MSQ RIX”.

Очень полезно, я считаю. Найдено тут.

Добавлено в 13:34 / Категории: Интернет, Разное / Теги: ,
Следить за комментариями RSS 2.0 / Добавить комментарий /

Голосовой ввод в Google Translate

Четверг, 26 Мая, 2011

В Google Translate незаметно появилась возможность ввода текста голосом. Пока работает вроде только из Google Chrome и только для английского языка. Часто использую этот сервис и когда появится для всех языков, уверен, что будет очень удобно.

Правда, система знатно поиздевалась над моим английским произношением, воприняв одну моих попыток, фразу “How do you do?”, как “hello call if you’re a dork” :-)

Зная, как здорово работает головой поиск в Android, думаю появление голосового поиска для русского языка не за горами.

Добавлено в 15:01 / Категории: Интернет / Теги: ,
Следить за комментариями RSS 2.0 / Добавить комментарий /

Стали доступны платные приложения в Android Market’е

Суббота, 14 Мая, 2011

Проверил на телефоне, действительно так. Пока ничего покупать не собираюсь, но тенденция радует, т.к. доступных приложений стало реально больше. Оплатить можно с карточки, данные которой можно вбить прямо из телефона. Что интересно, если приложение не понравится, то в течении 15 минут, можно вернуть за него деньги.

Что пока реально бесит в Android Market’е, т.к. это то, что не все программы доступны. Вот например Skype, по какой-то причине, из Беларуси в маркете его не найдёшь. Пришлось искать apk на форумах и устанавливать вручную.

Добавлено в 22:36 / Категории: Интернет / Теги:
Следить за комментариями RSS 2.0 / Добавить комментарий /

CrashPlan

Воскресенье, 24 Апреля, 2011

Писал недавно о Mozy.com, известном сервисе онлайн-бэкапа за 5 долларов в месяц. После того как оплатил, и попользовался месяц, Mozy внезапно поднял цены (5.99$ за 50 гигайбайт, 9.99$ за 125 гигайбайт + 2$ за каждые 20$ в месяц). Последней каплей стало то, что приложение Mozy стало работать с страшными глюками (перестало бэкапить файлы и стало зависать при переустановке).

Интересный бизнес, сначала много лет пиариться о том, что у них неограниченно место, и можно бэкапить сколько угодно, а потом настолько сильно ограничить дисковое пространство. 50 гигайбайт это реально мало, у меня например одних фотографий почти на 50 гигайбайт, хотя я удаляю почти все Raw’ы и пережимаю все видеофайлы.

Понятно, что неограниченное место, это маркетинговая хитрость, примерно как неограниченный трафик у провайдеров. Если приблизиться к какому-то скрытому лимиту, то включаются ограничения скорости и т.д. Формально ограничений нет, но пользоваться сервисом уже невозможно. Применительно к таким сервисам, как Mozy, более справедливым было бы ограничение в 200-300 гигабайт, особенно если учесть текущие цены на винчестеры.

Почитал отзывы разгневанных клиентов Mozy и стал искать другой сервис из самых популярных за такую же цену (5$ в месяц). Сначала я попробовал Carbonite. Неплохая альтернатива, но из минусов оплата сразу за год, и то, что в бэкап по умолчанию не добавляются аудио и видео файлы. Понятно, что сделано специально, чтобы особо “умные” пользователи не добавляли в бэкап свои аудио- и видео-коллекции, но для меня неудобно, т.к. нужно специально добавлять каждый файл домашнего видео.

Затем попробовал CrashPlan, и решил остаться c ним. CrashPlan даёт возможность бесплатно пользоваться его услугами целый месяц, что сделало выбор в его пользу, когда он бодренько за неделю забэкапил мои 50 гигабайт (т.е. на этом уровне никаких ограничений по скорости нет). Из преимуществ, также стоит отметить шифрование архивов (чтобы скачать архивы, кроме логина и пароля нужен дополнительно специальный ключ). Скачивать бэкапы можно как из программы, так и из аккаунта на сайте. Субъективно, программа работает быстрее, чем Mozy.

У подобных сервисов, самое главное надёжность, посмотрим, что будет дальше.

Добавлено в 22:58 / Категории: Интернет, Компьютеры / Теги: , ,
Следить за комментариями RSS 2.0 / Добавить комментарий /

Бэкап на Mozy.com

Понедельник, 17 Января, 2011

О важности бэкапов и как это я организую на сервере, я уже писал. Пару месяцев назад серьёзно задумался о бэкапе дома. Как говорят жизнь делится на две части: до сгоревшего винчестера, и после. Т.к. я уже терял свои веники два раза, то все важные данные я сохраняю на второй винчестер в компьютере и раз в пару недель всё копирую на внешний винчестер. Всё это замечательно защищает данные от того, что может полететь основной винчестер, или два одновременно (например, такое случается, если сгорает блок питания). Но случаи бывают разные и неправильно хранить все бэкапы в одной квартире — тут нарушается основной принцип бэкапа, чем географически дальше находятся копии, тем лучше.

Сохранять данные на DVD-болванки уже неудобно, т.к. на диск влезает чуть меньше 5 Гб, что мало, а коллекции быстро растут, у меня например одних фотографий уже 55 гигайбайт. К тому же нужно ждать пока данные насобираются на новый диск (можно потерять, то что не успел записать), и нужно диски куда то отвозить, например к родственникам (что долго), чтобы не хранить все бэкапы в одном месте.

Поэтому я обратил внимание на онлайн сервисы для бэкапа. Благодаря развитию рынка интернет услуг в последние два года у нас в стране, сильно выросли скорости и трафик на тарифах интернет-провайдеров, стало возможно закачивать/скачивать большие объёмы данных. У меня, например, сейчас на тарифе 100 гигабайт трафика, что более чем достаточно, чтобы в течение месяца забэкапить все важные данные.

Сервисов для бэкапа существует великое множество, все они примерно дают схожую функциональность, но отличаются ценами, условиями и удобством. Попробовал несколько крупных сервисов и остановился на Mozy.com. Основная проблема во многих сервисах, что они держат пользователей за идиотов не дают выбрать, какие папки бэкапить, а сохраняют всё подряд. Возможно это удобно, если есть 300-гигабитный интернет, чтобы восстановить потом все данные за сутки, но когда террабайт места на дисках занимают фильмы, сериалы, дистрибутивы программ и игр, это совершенно не удобно :-)


Статус отправки файлов на сервер

Mozy позволяет бесплатно бэкапить 2 гигабайта информации, либо неограниченный объём за 5$ в месяц и обладает хорошей функциональностью. Понравилась удобная клиентская часть, позволяет выбрать в какие папки будут забэкаплены. Можно настроить автоматический бэкап в определённое время суток, ограничение полосы канала.


Интерфейс клиентской части

Данные  можно восстановить, установив клиентскую часть, либо прямо из своего веб-аккаунта на Mozy.com, что крайне удобно — файлы архивируются и присылается ссылка для скачивания на архив. Восстановить можно отдельно любую папку (как ни странно, не во всех сервисах такое возможно). Что важно, можно восстановить не только файлы из последнего бэкапа, но и файлы из бэкапа за любое число.

Добавлено в 16:52 / Категории: Интернет, Компьютеры / Теги: ,
Следить за комментариями RSS 2.0 / Добавить комментарий /

Как обойти ограничение на 120 евро при покупках на Ebay

Понедельник, 17 Января, 2011

Мудрое законодательство в нашей стране, которое пытается оградить нас от вредного влияния запада, позволяет беспошлинно получать не более пяти посылок в месяц на общую сумму не больше 120 евро. Аппетит на eBay быстро приходит во время еды (вернее покупок недорогих товаров), и эти ограничения начинают очень быстро мешать.

Есть простой способ обойти это ограничение в случае заказа большого количества посылок. В интерфейсах My eBay идём в раздел My Account -> Addresses, и дополнительно вбиваем адреса и имена жены, родителей, тёщи, родного брата, сестры и т.д. При оплате бида можно выбрать адрес, на который будет идти отправка посылки, либо сделать нужный адрес Primary перед заказом лота.

Некоторые продавцы отсылают только на paypal адрес, поэтому для таких лотов этот способ не пройдёт. Как правило на paypal адрес отсылают только достаточно ценные лоты, я таких пока не встречал, обычно это упоминается в описании лота. В таком случае можно попробовать договориться с продавцом.

Добавлено в 15:51 / Категории: Интернет / Теги: ,
Следить за комментариями RSS 2.0 / Добавить комментарий /

Google Chrome 6.0

Пятница, 3 Сентября, 2010

У нового Google Chrome 6.0 чуть обновилась цветовая схема, стала серой, мне старая голубоватая нравилась гораздо больше. Чтобы вернуть старую, можно поставить вот это дополнение: https://chrome.google.com/extensions/detail/oppbdedflbioggjkeneigjcmpomohajo

Особенно позабавила новая  иконка статуса незащищённого https соединения:

Добавлено в 15:45 / Категории: Интернет / Теги:
Следить за комментариями RSS 2.0 / Добавить комментарий /