2014-06-01から1ヶ月間の記事一覧

HiveServer2で 「java.lang.OutOfMemoryError: unable to create new native thread」といわれた

CentOS6上のHiveServer2で 「java.lang.OutOfMemoryError: unable to create new native thread」といわれたのでメモっておく。現象としては下記と同じに見える。リークしてるのか。。。https://issues.apache.org/jira/browse/HIVE-6866HDP使っているのです…

CognosからPrestogres経由でPrestoにつないだ話

先週いろいろとやっていてfrsyukiさんのおかげで動くようになったのでメモっておきます。CognosはBIツールです。Prestoはみんな知ってるよね。Prestogresが何かはこちらを参照。http://www.slideshare.net/frsyuki/presto-meetup要はBIツールからPrestoにつ…

HDPとAmbariを試している

HDP

今度新規にHadoopクラスタを構築する予定なのですが、HortonworksのHDPおよびAmbariをちょっと試しています。僕は今までApacheのコミュニティ版Hadoop 1系を1年ほど運用していたので、今どきのHadoop事情にうとかったんですがいろいろ変わってるんですね。 N…

南魚沼グルメマラソンで走ってきた

南魚沼グルメマラソンでハーフ走ってきました。暑かったですね。良い大会でした。東京駅から始発の新幹線乗ったのですが、周りがランナーだらけでした。浦佐駅から徒歩15分ぐらいのところが会場でこの大会はアクセスがよくて良いですね。走った後はコシヒカ…

HiveでJSON形式のデータを扱うようにして変更に強くする話

Hiveでは常識の部類に入る話なのかもしれませんが、僕が最近やったことなのでメモっておきます。たとば以下のCSVファイルがあったとします。なお今回の例はタムタムの日記 - HiveでJSON形式のログを構造化するからいただきました。m( )m name,exam1,exam2,ex…

プログラミング言語自体の開発など下回りを整備することについて

WWDCでAppleがSwiftを発表しましたけど、AppleのSwiftにしろGoogleのGoにしろFacebookのHackにしろ自社でプログラミング言語を作るってなんかすごいなと思いますね。それを作ることにはコストがすごくかかると思うんですけど、それでも作ると判断するのはど…

pull request後にupstreamに更新が入ったのでrebaseしてconflictを解消してpush -fする話

azkabanというソフトを使っていて手元でバグっぽいのを見つけたのでpull requestしたんですよ。How to Contributeに従ってまずGitHub issueを作ってその後、https://github.com/azkaban/azkaban2 から自分のところにforkして以下のように作業しました。まあ…