ストリーム処理エンジンのこれまでとStreamSpinner

rekisi.png
”その人の過去を知れば、その人を分かる”ようにストリーム処理エンジンの今までの流れを見直す。
そして、その流れの中でStreamSpinnerがどこに向かっていくのか?
*引用は先生の報告書と先輩の発表。自分なりに噛み砕いたつもり

ストリームデータに対する処理基盤としての研究は
Models and Issues in Data Stream Systems
の2002年の論文から始まる。(読んでないので、今度読もう!)
当初は既に普及している関係データモデルの概念にストリームデータを適応させて、その上で性能向上やメモリ使用量の制御などの研究が行われてきた。この時代を第一世代Stream Processing Engine(SPE)と呼ぶ。
第一世代のエンジンとしては、Aurora,STREAM,TelegraphCQ,NiagaraCQなどがある。これらのエンジンでは、データストリームをタプルとみなした時に新しく必要となる演算を保持している。それは、ストリームをリレーションに変換する演算子(windowの概念があり、time-base,tuple-base,partinoned window)、リレーションをストリームに変換する演算子(Istream,Dstream,Rstream.加,減,)である。
第二世代では、第一世代のモデルに対して分散処理を導入して、高性能化や対故障性を実現した。
このエンジンはBorealis,StreamSpinnerである。先日読んだ分散環境における演算の配置最適化の論文はここに相当する。
第三世代では、多様なアプリケーション(信号処理やイベントマッチング)に適した特殊な演算を導入した特化型SPEが開発されている。これは、RFID用途のSASE,PEEX,HiFiや信号処理解析には"The case for a signal-oriented data stream management system"などがある。

さて、このような流れの中でStreamSpinnerがどこに向かっているのか?
ストリーム処理での演算共有、DBMSとの連結、分散処理、そして動的環境対応。
では、StreamSpinnerに足りないものは?(先輩プレゼン引用)
1、ストリームデータの意味記述
・ストリームデータの意味情報を問い合わせに利用したい
2、環境変化への適応
・情報源の変化
・問合せのローミング機能
・環境に応じた適応型ラッパー(これは、就活中に研究所のプレゼンの時に言われた)
3、コンパクトさ
・Java(Standard edition)が動くマシン
4、セキュリティ
・セキュリティには現状では無関心。他人の問合せ削除可能
などなど

過去を知って、現在の問題が分かっているから、あとは対応ですね。。。
研究 | - | -
calendar
recommend
データベースシステム (情報系教科書シリーズ)

データベースシステム (情報系教科書シリーズ) | 北川 博之

一番のお勧めです!数学の面から詳しくデータベースに関して説明をしてくれています。データベースは理論が大事ですので、難しいですが、学習の大きな手助けとなります。

recommend
トランザクション処理〈上〉―概念と技法

トランザクション処理〈上〉―概念と技法 | ジム グレイ
アンドレアス ロイター

ジムグレイが書いた上下巻の厚い本。トランザクションについて細かすぎるほどに書いてある。きちんと読めていないので、ちゃんと読みます

recommend
珠玉のプログラミング―本質を見抜いたアルゴリズムとデータ構造

珠玉のプログラミング―本質を見抜いたアルゴリズムとデータ構造 | ジョン ベントリー

プログラミング言語に捉われず、アルゴリズムの面から丁寧に説明してくれている。面白く読める本

recommend
リファクタリング―プログラムの体質改善テクニック (Object Technology Series)

リファクタリング―プログラムの体質改善テクニック (Object Technology Series) | マーチン ファウラー
Martin Fowler
児玉 公信
平澤 章
友野 晶夫
梅沢 真史

プログラミング作法の一つのリファクタリングの本。前半よりも後半がためになった。リファクタリングの本では結城さんの入門書も良かった

recommend
内定勝者 私たちはこう言った! こう書いた! 合格実例集&セオリー2009 面接編

内定勝者 私たちはこう言った! こう書いた! 合格実例集&セオリー2009 面接編 | キャリアデザインプロジェクト

就職活動する前には必見の本。面接官への伝え方がかなりレベルアップする。就活生にはお勧め

selected entries
categories
archives
profile
others