「カラム名:references」を指定すればいい。

$ rails g migration remove_カラム名_from_テーブル名 カラム名:references
$ cat db/migrate/20150826023224_remove_カラム名_from_テーブル名.rb
class Removeカラム名Fromテーブル名 < ActiveRecord::Migration
  def change
    remove_reference :テーブル名, :カラム名, index: true, foreign_key: true
  end
end

テーブル名は複数形でも単数形でも動くが、RailsGuides では複数形で記述している。

これを、remove_column でやろうとすると、外部キー制約に引っかかって削除できずにエラーが出る。たぶん index: true, foreign_key: true 付ければいけるけど。

Mysql2::Error: Cannot drop index 'index_テーブル名_on_カラム名': needed in a foreign key constraint: ALTER TABLE `テーブル名` DROP `カラム名`/Users/xxx/git/xxx/vendor/bundle/ruby/2.2.0/gems/activerecord-4.2.1/lib/active_record/connection_adapters/abstract_mysql_adapter.rb:299:in `query'