サイトアイコン NegativeMindException

Webスクレイピングの勉強会に行ってきた

ここ最近のGoogle App Engineいじりで、PythonでのWebスクレイピング欲が高まってところ、たまたま勉強会を見つけたので、参加してみた。

第1回Webスクレイピング勉強会@東京

昨今、オープンデータ運動の影響で、RDFデータで構成される”データのWeb”への注目が増しています。
“データのWeb”は、GOODデータの共有データストアです。
しかし、現実問題として、RDFデータ間の関係設計やインフラ整備を行う人材は多くなく、データの質は確保できても量は確保できていません。

私達は、もう一つのWebの可能性に注目します。

もう一つのWeb、すなわちHTMLデータで構成される”ドキュメントのWeb”です。
“ドキュメントのWeb”は、BADデータの共有データストアです。
そこから情報解析の為にデータ取得する事は、著作権法第47条の7で保護されています。
“データのWeb”と”ドキュメントのWeb”を一つのデータストアとして活用できれば、それは理想的な未来です。

その理想的な未来にたどり着くための技術の走りが”Webスクレイピング”であると思います。
私達は、この技術を持つ人々がLinkする環境を提供し共に刺激し合う事で、この理想的な未来へ貢献します。

 

 

 
 

 
 


スポンサーリンク

 
 

 
 

 
 

 
 

 
 

最近は自分でプログラムをガリガリ書かなくても、SaaS型のサービスでスクレイピングできたりするみたいね。自分でガリガリ書く利点としては、社内ローカルのシステムの情報を引っ張るとか、社外秘が絡むものかな。エンタープライズ契約もあったりするらしいけど、会社のポリシーとぶつかったら実現できないし。個人的に、クソUIな社内システム上の情報をスクレイピングでぶっこ抜いて業務を効率化したいところ。

こういう勉強会に行くと、自分の興味のあるジャンルをやろうとしている他の人達の顔も見えていいですね。

Qiitaにもまとめが上がったみたい↓
第1回Webスクレイピング勉強会@東京 (全3回)


スポンサーリンク

関連記事

  • OpenCV バージョン4がリリースされた!
  • OpenVDB:3Dボリュームデータ処理ライブラリ
  • Cartographer:オープンソースのSLAMライブラリ
  • Math Inspector:科学計算向けビジュアルプログラミングツール
  • Google Colaboratoryで遊ぶ準備
  • Raspberry PiでIoTごっこ
  • Python for Unity:UnityEditorでPythonを使えるパッケージ
  • OpenCVで平均顔を作るチュートリアル
  • TorchStudio:PyTorchのための統合開発環境とエコシステム
  • Theia:オープンソースのStructure from Motionライブラリ
  • Iterator
  • Kornia:微分可能なコンピュータービジョンライブラリ
  • オープンソースの取引プラットフォーム
  • オープンソースの顔の動作解析ツールキット『OpenFace』
  • Structure from Motion (多視点画像からの3次元形状復元)
  • 読みやすくて高速なディープラーニングのフレームワーク『Caffe』
  • BlenderのPython環境にPyTorchをインストールする
  • MB-Lab:Blenderの人体モデリングアドオン
  • WordPressプラグインの作り方
  • UnityのGameObjectの向きをScriptで制御する
  • 書籍『ROSプログラミング』
  • OpenCV
  • オープンソースの物理ベースレンダラ『Mitsuba』をMayaで使う
  • Manim:Pythonで使える数学アニメーションライブラリ
  • Quartus II
  • NumSharp:C#で使えるNumPyライクな数値計算ライブラリ
  • Mayaのプラグイン開発
  • OpenGV:画像からカメラの3次元位置・姿勢を推定するライブラリ
  • 任意の英語サイト中で自分がまだ覚えていない英単語だけに日本語のルビを振ってくれるツール『ずるっこ!』
  • UnityプロジェクトをGitHubで管理する
  • UnityでTweenアニメーションを実装できる3種類の無料Asset
  • OpenCV3.3.0でsfmモジュールのビルドに成功!
  • Model View Controller
  • Raspberry Piでセンサーの常時稼働を検討する
  • MythTV:Linuxでテレビの視聴・録画ができるオープンソースプロジェクト
  • CycleGAN:ドメイン関係を学習した画像変換
  • 3分の動画でプログラミングを学習できるサイト『ドットインストール』
  • Unityの薄い本
  • ROSでガンダムを動かす
  • ドラマ『ファーストクラス』のモーショングラフィックス
  • Math.NET Numerics:Unityで使える数値計算ライブラリ
  • trimesh:PythonでポリゴンMeshを扱うライブラリ
  • モバイルバージョンを終了