ここ最近のGoogle App Engineいじりで、PythonでのWebスクレイピング欲が高まってところ、たまたま勉強会を見つけたので、参加してみた。
昨今、オープンデータ運動の影響で、RDFデータで構成される”データのWeb”への注目が増しています。
“データのWeb”は、GOODデータの共有データストアです。
しかし、現実問題として、RDFデータ間の関係設計やインフラ整備を行う人材は多くなく、データの質は確保できても量は確保できていません。私達は、もう一つのWebの可能性に注目します。
もう一つのWeb、すなわちHTMLデータで構成される”ドキュメントのWeb”です。
“ドキュメントのWeb”は、BADデータの共有データストアです。
そこから情報解析の為にデータ取得する事は、著作権法第47条の7で保護されています。
“データのWeb”と”ドキュメントのWeb”を一つのデータストアとして活用できれば、それは理想的な未来です。その理想的な未来にたどり着くための技術の走りが”Webスクレイピング”であると思います。
私達は、この技術を持つ人々がLinkする環境を提供し共に刺激し合う事で、この理想的な未来へ貢献します。
最近は自分でプログラムをガリガリ書かなくても、SaaS型のサービスでスクレイピングできたりするみたいね。自分でガリガリ書く利点としては、社内ローカルのシステムの情報を引っ張るとか、社外秘が絡むものかな。エンタープライズ契約もあったりするらしいけど、会社のポリシーとぶつかったら実現できないし。個人的に、クソUIな社内システム上の情報をスクレイピングでぶっこ抜いて業務を効率化したいところ。
こういう勉強会に行くと、自分の興味のあるジャンルをやろうとしている他の人達の顔も見えていいですね。
Qiitaにもまとめが上がったみたい↓
第1回Webスクレイピング勉強会@東京 (全3回)
関連記事
ブログが1日ダウンしてました
WordPress on Windows Azure
まだ続くブログの不調
OpenCVで動画の手ぶれ補正
openMVGをWindows10 Visual Studi...
OpenFace:Deep Neural Networkによ...
プログラミングスキルとは何か?
サンプルコードにも間違いはある?
CGALDotNet:計算幾何学ライブラリ CGALのC#ラ...
ディープラーニング
ドラマ『ファーストクラス』のモーショングラフィックス
Alice Vision:オープンソースのPhotogram...
BlenderのPython環境にPyTorchをインストー...
OpenCV
iOSデバイスのためのフィジカル・コンピューティングツールキ...
CycleGAN:ドメイン関係を学習した画像変換
ポリゴンジオメトリ処理ライブラリ『pmp-library (...
OpenCV 3.3.0 contribのsfmモジュールの...
2D→3D復元技術で使われる用語まとめ
Open3D:3Dデータ処理ライブラリ
Faster R-CNN:ディープラーニングによる一般物体検...
Iridescence:プロトタイピング向け軽量3D可視化ラ...
OANDAのfxTrade API
PyMC:Pythonのベイズ統計ライブラリ
Dlib:C++の機械学習ライブラリ
KelpNet:C#で使える可読性重視のディープラーニングラ...
OpenCVでiPhone6sのカメラをキャリブレーションす...
Runway ML:クリエイターのための機械学習ツール
html5のcanvasの可能性
Mitsuba 3:オープンソースの研究向けレンダラ
Seleniumを使ったFXや株の自動取引
OpenCVで顔のモーフィングを実装する
ZBrushで作った3Dモデルを立体視で確認できるVRアプリ...
書籍『仕事ではじめる機械学習』を読みました
Unityからkonashiをコントロールする
Unityの各コンポーネント間でのやり取り
Boost オープンソースライブラリ
MB-Lab:Blenderの人体モデリングアドオン
クラスの基本
hloc:SuperGlueで精度を向上させたSfM・Vis...
Blender 2.8がついに正式リリース!
Raspberry PiでIoTごっこ


コメント