IT・ビッグデータ徒然ブログ

関西でインフラ、データ基盤系のエンジニアになりたい

インフラ(データ基盤を含む)

Ubuntu16にCDH6(Beta)をManagerなしでインストール

最近Clouderaの動向をウォッチしていなかったのですが、 知らぬ間にCDH6がリリースされていました。 https://www.cloudera.com/documentation/enterprise/6/release-notes/topics/rg_cdh_6_release_notes.html ※まだベータ版らしいです。 CDH6はHadoop3.0.0…

なるべくお金をかけずにお手軽運用でサーバを扱う(検証、テスト用)

なるべくお金をかけずにお手軽運用でサーバを扱う(検証、テスト用)1,2年前にまとめていたけど、 下書きで残しっぱなしだったので、今更載せておきます。 前ふり AWS等クラウドでサーバを立てる時に気になるお金。 なるべく課金を減らすために必要なときだけ…

Ubuntu16.04にCDH5を入れる

CDH5をインストールするを読んで、Ubuntuでやろうとしたら思いの外つまづいたので、備忘録代わりに残しておきます。 (今更こんな方法でHadoop入れる人いないと思うけど。。。) 環境 OS: Ubuntu 16.04 Hadoop: CDH 5.12 Javaのインストール ひとまず、java8を…

LDAP基本の基本解説という名のメモ(初心者向け)

久しぶりに仕事でLDAPをいじろうと思ったら、すっかり言葉や仕組みを忘れてしまっていたので、再勉強のついでにLDAPのことをメモ代わりに書き残しておきます。 参考書はこちら 入門LDAP/OpenLDAP ディレクトリサービス導入・運用ガイド 第3版 What is LDAP L…

Lambda用にテンポラリーアクセスキーを作成する(あくまで試行錯誤の過程)

以前期限付きURLをLambdaで作成する方法を紹介しました。 そこで最大7日間まで設定できると高をくくったのですが、 いざ使ってみるとものの数時間で、 This token has expired 的なエラーが返ってきます。。。 念のため、何度か確認したのですが、設定した値…

起動させるたびにIPが変わって鬱陶しいあれをなるべくお金をかけずに解決する

前ふり AWS等クラウドでサーバを立てる時に気になるお金。 なるべく課金を減らすために必要なときだけ立てて、いらなければ落とすなんてことをしますよね。 でも落とした後に起動するとやっかいなのがIPアドレスの変更。 毎回毎回アドレスが変わってしまうと…

Lambdaで署名付きURLを生成する方法(2018年3月)

以前からちょくちょく署名付きURLを作成していたのですが、それを久々に使ったところ、 なぜかエラーがでてたので、今の時点で使えるようにアップデートしました。 同じ情報はググればいっぱい出てくるのですが、どこも中途半端だったり、わかりにくかったり…